پژوهشگرانِ Anthropic روز ۵ آبان ۱۴۰۵ (۲۷ اکتبر ۲۰۲۶) پژوهشی منتشر کردند که نشان می‌دهد تحلیل‌گرانِ متخصص وقتی ایجنتِ هوش مصنوعی کارِ اجرایی را انجام می‌دهد، در ۸۶ درصدِ تصمیم‌ها همان گزینه‌ای را برمی‌دارند که ایجنت ترجیح داده بود؛ حتی وقتی این ترجیح را تصادفی تعیین کرده بودند. جزئیات در صفحه‌ی رسمی پژوهش و گزارشِ The Decoder آمده است.
آزمایش چطور انجام شد؟
۶۱ تحلیل‌گر با پیشینه‌ی استنتاجِ علّی (که با پایتون یا R کار می‌کردند) باید به یک تعاونیِ کشاورزیِ فرضی توصیه می‌کردند که برنامه‌ی مشاوره‌اش باید گسترش یابد یا تعطیل شود. یازده نفر نخواستند از ایجنت استفاده کنند و ۵۰ نفر با Claude Code (با مدلِ Claude Opus 4.8) کار کردند. چهار تصمیمِ تحلیلی باز بود و هرکدام دو گزینه‌ی موجه داشت: شاخصِ خروجی، روشِ مقایسه، دامنه‌ی پوشش و وزن‌دهی. برای هر تصمیم یک شیر یا خطِ تصادفی تعیین می‌کرد ایجنت کدام گزینه را بپسندد، و ایجنت دستور داشت صادقانه از آن دفاع کند و اگر شواهد خلاف بود نظرش را عوض کند.
نمونه‌ی خودت را می‌توانی با چت جی پی تی فارسی در هوش نو بسازی؛ هزینه را پیش از ساخت می‌بینی.
نتیجه‌ها
- تحلیل‌گران ۸۶ درصد از اوقات با تمایلِ ایجنت هم‌نظر شدند؛ شانس حدود ۵۰ درصد می‌دهد.
- کسانی که پیشاپیش نظری داشتند، وقتی ایجنت مخالف بود ۶۰ درصد نظرشان را عوض کردند و وقتی موافق بود فقط ۶ درصد (بازه‌ی اطمینان گسترده بود).
- ۵۲ درصد گفتند توصیه بیشتر مالِ خودشان است تا ایجنت، با این حال میزانِ پیروی در همه‌ی گروه‌ها مشابه بود.
- ۷۷ درصد استدلال‌های ایجنت را در توضیح‌شان آوردند، گاهی کلمه‌به‌کلمه، ولی فقط ۱۵ درصد از ایجنت نام بردند.
- تجربه، تخصص و اعتماد به هوش مصنوعی پیروی را پیش‌بینی نکرد.
مقایسه با گروهِ بدونِ ایجنت هم جالب است: از ۱۱ نفر شش نفر خطای روش‌شناختیِ جدی داشتند، در برابر سه نفر از ۵۰ نفرِ گروهِ ایجنت؛ و زمانِ میانه ۹۰ دقیقه در برابر ۶۵ دقیقه. ولی گروه‌ها تصادفی نبودند و گروهِ بدونِ ایجنت کم‌تجربه‌تر بود، پس این مقایسه علّی نیست.
محدودیت‌ها و توصیه‌ها
پژوهشگران تأکید می‌کنند ترجیح‌ها عمداً قوی شده بودند، فقط یک کار، یک حوزه و یک مدل آزمایش شد و گروهِ بدونِ ایجنت کوچک بود. آن‌ها استدلال نمی‌کنند که نباید از هوش مصنوعی استفاده کرد؛ ایجنت‌ها سریع‌تر و با خطای کمتر کار کردند. پیشنهادشان سه چیز است: اندازه‌گیریِ این «واگذاریِ ناخودآگاه» در کارِ روزمره، ساختنِ ایجنت‌هایی که قوی‌ترین دلیلِ هر گزینه را نشان دهند یا اول نظرِ کاربر را بپرسند، و تصمیم‌گیریِ سازمانی درباره‌ی اینکه کدام تصمیم‌ها باید قضاوتِ مستقلِ انسان باشند. مدل بدونِ دستورِ ویژه هم تمایلِ طبیعی داشت: در ۱۲۳ اجرا، ۱۱۲ بار همان پنج انتخابِ یکسان را کرد.
این یعنی چه برای کاربر فارسی‌زبان؟
اگر برای تحلیل، نوشتن یا برنامه‌نویسی از چت و ایجنت کمک می‌گیرید، یک راهِ ساده این است که پیش از دیدنِ پاسخ، نظرِ خودتان را بنویسید و بعد از مدل بخواهید دلیلِ هر دو گزینه را بگوید. این پژوهش کنارِ نتیجه‌ی پژوهشِ چارچوب ایجنت‌های کدنویسی یادآوری می‌کند که کیفیتِ کار فقط به مدل بستگی ندارد، به نحوه‌ی کار با آن هم بستگی دارد؛ و درباره‌ی ساختارِ ایجنت‌ها می‌توانید یادداشتِ زیرایجنت‌ها را هم ببینید. برای امتحانِ همین شیوه، در ابزارهای هوش‌نو از چتِ Claude یا GPT بخواهید «دلیل‌های دو طرف» را بیاورد.
چه کنیم که واگذاریِ ناخودآگاه نشود؟
سه عادتِ ساده: پیش از پرسیدنِ نظرِ مدل، تصمیمِ خودتان را بنویسید؛ از مدل بخواهید بهترین دلیل برای گزینه‌ی مخالف را هم بیاورد؛ و در گزارش‌ها بنویسید کدام بخش‌ها با کمکِ ایجنت انجام شده است.
سؤالات متداول
ترجیحِ ایجنت عمداً تعیین شده بود؟
بله؛ در آزمایش ترجیحِ ایجنت برای هر تصمیم به‌صورت تصادفی تعیین شد تا اثرش جدا شود، و ایجنت دستور داشت صادقانه از آن دفاع کند.
یعنی نباید به ایجنت اعتماد کرد؟
نه؛ نتیجه این نیست. ایجنت‌ها سریع‌تر و دقیق‌تر بودند، ولی تأییدِ انسان همیشه یک بازبینیِ مستقل نیست.
آیا نتیجه برای همه‌ی کارها صدق می‌کند؟
نه؛ فقط یک کار، یک حوزه و یک مدل بررسی شد.
