ابتکار شفافیت هوش مصنوعی مایکروسافت؛ ۴۰ شریک برای وارسی ایجنت‌ها

مایکروسافت در Ignite با بیش از ۴۰ سازمان ابتکار شفافیت هوش مصنوعی را راه انداخت: دیدن، وارسی و کنترل ایجنت‌ها.

ابتکار شفافیت هوش مصنوعی مایکروسافت؛ ۴۰ شریک برای وارسی ایجنت‌ها

مایکروسافت در کنفرانس Ignite روز ۱۷ نوامبر ۲۰۲۶ (۲۶ آبان ۱۴۰۵) «ابتکار شفافیت هوش مصنوعی» (AI Transparency Initiative) را معرفی کرد. ساتیا نادلا، مدیرعامل مایکروسافت، آن را اعلام کرد. هدف، ساختن استانداردهای باز با بیش از ۴۰ سازمان است تا شرکت‌ها بتوانند ببینند ایجنت‌های هوش مصنوعی چه کرده‌اند، درستی آن را مستقل وارسی کنند و دامنه‌ی اختیارشان را کنترل کنند. جزئیات را Microsoft Source و BigGo Finance منتشر کرده‌اند.

مشکل کجاست؟

مایکروسافت می‌گوید سازمان‌ها هم‌اکنون می‌توانند بیشتر فعالیت‌های اطراف یک مدل هوش مصنوعی را ببینند، اما نمی‌توانند بازسازی کنند بین درخواست و نتیجه دقیقا چه گذشته، و نمی‌توانند ادعای خودِ مدل درباره‌ی رفتارش را مستقل وارسی کنند. وقتی ایجنت‌ها به داده، ابزار، رمز دسترسی و زیرساخت وصل می‌شوند و بدون تأیید انسانی در هر قدم کار می‌کنند، این «شکاف شواهد» خطر امنیتی و حقوقی می‌شود. به گفته‌ی مایکروسافت، ایجنتی با چنین دسترسی‌هایی ریسک یک کارمند دارای اختیار ویژه را دارد، ولی با سرعت و مقیاس ماشین کار می‌کند.

سه بخش ابتکار

  1. همکاری در استانداردهای دولتی: مایکروسافت مشارکتش را در کار مؤسسه‌ی ملی استاندارد و فناوری آمریکا (NIST) روی استانداردهای ایجنت‌های هوش مصنوعی بیشتر می‌کند.
  2. استاندارد باز با بیش از ۴۰ سازمان: از جمله Accenture و Adobe و KPMG و Mastercard و Volvo Cars؛ استانداردهایی که مستقل از مدل و شرکت سازنده باشند.
  3. ورود به محصول‌ها: نتیجه‌ها در Microsoft AI و Foundry و Copilot می‌آید تا مشتری‌ها شواهد را در ابزارهای امنیت و انطباق خودشان، از مایکروسافت یا دیگران، استفاده کنند.

«ببین، وارسی کن، کنترل کن»

مایکروسافت اصل کار را در سه کلمه خلاصه می‌کند:

  • دیدن: بدانید به ایجنت چه گفته شد و چه اجازه‌ای داشت، از کدام مدل استفاده شد، به چه داده و ابزاری رسید و چه کاری کرد.
  • وارسی: ایجنت نباید تنها منبع حقیقت درباره‌ی رفتار خودش باشد. شواهد باید منبعشان را مشخص کنند (مدل، محیط اجرا یا سامانه‌های مستقل هویت و سیاست) تا گزارش مدل با ثبت‌های مستقل مقایسه شود.
  • کنترل: سازمان تصمیم می‌گیرد هوش مصنوعی چه کارهایی مجاز است و این شواهد با عوض‌شدن مدل یا شرکت ارائه‌دهنده همراه سازمان می‌ماند.

مایکروسافت صریح نوشته: «به مدل اعتماد کن» یک کنترل نیست و سرزنش‌کردن هوش مصنوعی هم پاسخ‌گویی نمی‌شود؛ مسئولیت با سازمان می‌ماند.

چه چیزی هنوز معلوم نیست؟

گزارش BigGo می‌گوید مشخصات فنی، روش‌های وارسی و زمان‌بندی هنوز اعلام نشده و باید دید ۴۰ سازمان کار را چطور تقسیم می‌کنند و استانداردها واقعا به ابزار قابل‌اجرا تبدیل می‌شوند یا نه. همچنین ممکن است این حرکت، تلاشی برای گرفتن نقش رهبری در تدوین استانداردها هم باشد. این‌ها تحلیل رسانه است، نه ادعای مایکروسافت.

پیوند با خبرهای قبلی

این ابتکار ادامه‌ی کار مایکروسافت روی هویت و مجوز ایجنت‌هاست؛ پیش‌تر درباره‌ی ایجنت‌های نگهبان مایکروسافت و خطر درونی و Autopilot و Copilot نوشته‌ایم. نگرانی هم‌زمان با ماجراهایی مثل کارهای ناخواسته‌ی ایجنت‌های Claude بالا گرفته است.

برای کاربر فارسی‌زبان چه معنایی دارد؟

این خبر بیشتر به شرکت‌ها و تیم‌های امنیت مربوط است، نه کاربر عادی. اما درس عملی‌اش برای همه یکی است: به هر ایجنت فقط دسترسی لازم را بدهید و بدانید چه کرده است. درباره‌ی استفاده از این ابتکار در ایران در منابع چیزی نیامده. برای کارهای روزمره مثل نوشتن، ترجمه، ساخت عکس و ویدیو و گویندگی فارسی می‌توانید از ابزارهای هوش‌نو استفاده کنید؛ مدل‌های GPT و Claude و Gemini و DeepSeek و Qwen آنجا فقط متنی را می‌بینند که خودتان می‌فرستید.

سؤالات متداول

این ابتکار یک محصول است؟

نه. فعلا هدفش ساختن استانداردهای باز است و بعدا به محصول‌های مایکروسافت می‌آید.

چه سازمان‌هایی همراه شده‌اند؟

بیش از ۴۰ سازمان، از جمله Accenture و Adobe و KPMG و Mastercard و Volvo Cars.

فقط برای مدل‌های مایکروسافت است؟

نه. طبق اعلام مایکروسافت برای مدل‌های بسته و متن‌باز و هر شرکتی کار می‌کند.

منبع‌ها

نویسنده نعیم حشم‌بان بنیان‌گذار و سردبیرِ هوش نو

نعیم حشم‌بان بنیان‌گذارِ هوش نو است و هر روز مدل‌های تازه‌ی هوش مصنوعی را امتحان می‌کند تا آموزش و بررسیِ ساده و دقیق به زبانِ فارسی بنویسد.