شرکتِ Anthropic روز ۱۵ اکتبر ۲۰۲۶ (۲۳ مهر ۱۴۰۵) اعلام کرد به یک تیمِ شش‌نفره از METR، سازمانی غیرانتفاعی که مدل‌های هوش مصنوعیِ پیشرو را آزمایش می‌کند، «دسترسیِ همانندِ کارمند» داده است. پژوهشگرانِ METR حالا لپ‌تاپ و دفترِ کارِ شرکت و ابزارهای داخلی دارند و گزارشِ خودشان درباره‌ی خطرها و رفتارِ Anthropic را بدونِ حقِ وتوی شرکت منتشر می‌کنند.
METR چه کسی است و چه دسترسی‌ای گرفته؟
METR نهادی است که کارش سنجشِ توانایی‌ها و خطرهای مدل‌های پیشرفته‌ی هوش مصنوعی است و پیش‌تر هم چند گزارشِ خطرِ Anthropic را بررسی کرده بود. اما این بار فرق دارد: شش نفر از METR در حدِ یک همکارِ داخلی به اطلاعات دسترسی دارند. ابزارهایشان تقریباً همان‌هاست که تیمِ ارزیابیِ خطرِ خودِ Anthropic استفاده می‌کند و کارمندان تشویق شده‌اند اطلاعات را مثلِ یک همکار با آن‌ها در میان بگذارند. Anthropic این ترتیب را به بازرسانی تشبیه کرده که بانک‌های بزرگ در داخلِ خودشان مستقر می‌کنند.
چند محدودیت هم هست: داده‌ی مشتریان، اطلاعاتِ حقوقیِ محرمانه و اطلاعاتِ معماریِ مدل‌ها (به‌دلیلِ خطرِ درز) جزو استثناها هستند. معماری فقط وقتی که خیلی مرتبط باشد و با تأییدِ صریحِ داخلی گفته می‌شود. بقیه‌ی کارکنانِ METR از این کار جدا نگه داشته می‌شوند و قراردادها الزام‌آور است.
سه ردیفِ ارزیابِ مستقل
| ردیف | چه کسی تصمیم می‌گیرد؟ | مثال |
|---|---|---|
| ردیفِ ۱ | Anthropic دسترسی را تعیین می‌کند و انتشار به تأییدِ شرکت نیاز دارد | بررسی‌های محدود، مثلِ SecureBio |
| ردیفِ ۲ | ارزیاب بدونِ تأیید منتشر می‌کند و اطلاعاتِ بیشتری می‌بیند | — |
| ردیفِ ۳ | دسترسیِ همانندِ کارمند، حقوقِ انتشارِ مشابهِ ردیفِ ۲ | METR |
Anthropic می‌گوید امیدوار است با گذشتِ زمان چند ارزیاب در ردیفِ ۳ باشند. SecureBio، که در زمینه‌ی زیست‌امنیت کار می‌کند، فصلِ سلاح‌های شیمیایی و زیستیِ گزارشِ خطرِ اوتِ ۲۰۲۶ را بررسی می‌کند. با Accenture و Faculty هم برای ارزیابیِ مدل و آزمونِ حمله (red-teaming) در حالِ گفت‌وگو هستند و با Hugging Face و چند نهادِ دیگر هم گفت‌وگوهای اولیه انجام شده است.
قاعده‌ی ویرایش و سانسور
مهم‌ترین بخش این است: Anthropic حقِ جلوگیری از انتشار را کنار گذاشته است. شرکت فقط در چند دسته‌ی ازپیش‌تعیین‌شده می‌تواند حذف بخواهد. METR هم اجازه دارد علنی بگوید چه چیزی حذف شده و آن را موجه می‌داند یا نه، بی‌آنکه محتوای حذف‌شده را فاش کند.
چرا حالا؟
به نوشته‌ی TechCrunch، از اواخرِ اوت تقریباً هر یکی دو هفته گزارشی درباره‌ی ایجنت‌هایی منتشر شده که خارج از دستور رفتار کرده‌اند. Anthropic ماهِ پیش متعهد شده بود ارزیابی‌های مستقل را تقویت کند و پیمانِ کاخ سفید درباره‌ی ابرهوش (White House Accord on Super Intelligence) را هم امضا کرده است. طبق گزارش، شرکت‌های OpenAI، گوگل، متا، انویدیا و xAI نیز به بررسیِ مستقل متعهد شده‌اند. اجرای این تعهد را باید در عمل دید؛ فعلاً فقط یک نمونه، یعنی METR، به ردیفِ ۳ رسیده است.
این خبر برای کاربرِ فارسی‌زبان چه معنایی دارد؟
اگر هر روز با ابزارهای هوش مصنوعی کار می‌کنی، این خبر مستقیم روی کارت اثر نمی‌گذارد، ولی روی «اعتماد» اثر می‌گذارد: وقتی ارزیابِ بیرونی بدونِ اجازه‌ی شرکت گزارش بدهد، ادعای ایمنی را می‌شود با شاهدِ مستقل سنجید. خبرهای مرتبطِ دو روزِ اخیر را هم بخوان: پژوهشِ Anthropic درباره‌ی هوشِ مصنوعیِ خودتکثیر و ایجنت‌های Claude و رفتارِ خارج از دستور. برای شناختِ خودِ مدل هم معرفیِ Claude مفید است.
اگر می‌خواهی خودت با Claude و مدل‌های دیگر کار کنی و فرقشان را حس کنی، به ابزارهای هوش‌نو سر بزن.
سؤالات متداول
METR دقیقاً چه کاری می‌کند؟
یک سازمانِ غیرانتفاعی است که توانایی‌ها و خطرهای مدل‌های پیشروی هوش مصنوعی را آزمایش و گزارش می‌کند.
آیا Anthropic می‌تواند گزارشِ METR را متوقف کند؟
نه. شرکت فقط در چند دسته‌ی مشخص، مثلِ داده‌ی مشتری و اطلاعاتِ معماری، می‌تواند حذف بخواهد و METR می‌تواند درباره‌ی موجه بودنِ حذف‌ها نظر بدهد.
آیا این یعنی مدل‌های Claude امن‌تر شده‌اند؟
نه لزوماً. این اعلام فقط شیوه‌ی بررسی را عوض می‌کند. امنیتِ واقعیِ مدل‌ها را گزارش‌های آینده‌ی METR نشان می‌دهند.
