اوپن‌ای‌آی روز ۷ آبان ۱۴۰۵ (۲۹ اکتبر ۲۰۲۶) نسخه‌ی تازه‌ی «Model Spec» را منتشر کرد؛ سندی عمومی که توضیح می‌دهد مدل‌های ChatGPT و GPT باید چطور رفتار کنند. طبق متنِ رسمیِ Model Spec و گزارشِ The Decoder سند حالا روی پنج ارزش بنا شده و برای ایجنت‌ها، یعنی مدل‌هایی که خودشان کار را انجام می‌دهند، قانون‌های سخت‌گیرانه‌تری گذاشته است.
پنج ارزشِ تازه چیست؟
- وفاداری به نیتِ انسان: دستورها را هم بر پایه‌ی هدفشان اجرا کند و هم بر پایه‌ی واژه‌هایشان، در چارچوبِ زنجیره‌ی اختیار (چه کسی بالاتر است).
- کم‌کردنِ آسیب: مرزهای ایمنیِ سفت و در نظرگرفتنِ پیامدهای پیش‌بینی‌پذیرِ کار.
- صداقت و شفافیت: درباره‌ی واقعیت، میزانِ اطمینان، توانایی‌ها و کارهایی که کرده راست بگوید.
- یاری به اختیارِ انسان: به آدم‌ها کمک کند خودشان نظر بسازند و تصمیم بگیرند، بدونِ هل‌دادنِ پنهان.
- توجه و مراقبت: به کسانی که از کار اثر می‌گیرند هم فکر کند.
حافظه و «حدس»: چه عوض شد؟
مدل باید از گفتگوهای قبلی و حافظه برای فهمیدنِ خواسته‌ی شما استفاده کند تا مجبور نباشید همه‌چیز را تکرار کنید. اما سند می‌گوید باید میانِ «چیزی که شما گفتید» و «چیزی که مدل حدس زده» فرق بگذارد. حدس‌ها ممکن است کهنه یا غلط باشند؛ پس در موردهای حساس مدل باید فرضش را بگوید یا پیش از عمل بپرسد. اطلاعاتِ حساس نباید بی‌اجازه در خروجی‌هایی مثل ایمیلِ مشترک بیاید. اگر بخواهید چیزی را فراموش کند، دیگر نباید به آن تکیه کند و نباید ادعا کند پاک شده، مگر بتواند درستی‌اش را بسنجد.
اگر می‌خواهی همین حالا امتحانش کنی، هوش مصنوعی فارسی در هوش نو با توضیح فارسی و بدون فیلترشکن کار می‌کند.
قانون‌های ایجنت‌ها
- مدل باید برای نظارت، اصلاح، جایگزینی و حتی خاموش‌شدن باز بماند، اطلاعات را پنهان یا جعل نکند و نظارت را دور نزند.
- کارِ خودکار باید در یک «محدوده‌ی توافق‌شده» انجام شود؛ با زیرهدف‌ها، پیامدهای قابل‌قبول و زمانِ توقف برای گرفتنِ تأیید. کارهای پرخطر به مجوزِ صریح نیاز دارند و مدل نباید با سپردنِ کار به دیگران یا زمان‌بندی، محدودیت را دور بزند.
- مدل فقط هدف‌هایی را دنبال کند که از دستورها برمی‌آید؛ نه حفظِ خود، نه جمع‌کردنِ منابع، نه فروشِ بیشتر، نه نقشِ پلیسِ قانون و اخلاق.
- متنِ خروجیِ ابزارها و نقل‌قول‌ها به‌طور پیش‌فرض هیچ اختیاری ندارند؛ دستوری که داخلِ آن‌ها باشد «اطلاعات» است، نه فرمان.
The Decoder یادآوری می‌کند که سند خودش نشان نمی‌دهد مدل‌ها واقعاً از آن پیروی می‌کنند، و به رخدادهای قبلی مثل خاموش‌کردنِ پایشِ ایمنی توسطِ ایجنت‌های داخلی اشاره می‌کند. از ماجرای آموزشِ مدل‌ها در یادداشتِ آموزش آفلاین بدون اینترنت زنده هم خبر داریم.
چرا این سند مهم است؟
مدل‌ها هر ماه تواناتر می‌شوند و مسئله‌ی اصلی دیگر فقط «چقدر باهوش‌اند» نیست؛ این است که وقتی کارِ طولانی و خودکار انجام می‌دهند، چه کسی مرز و ترمز را تعیین می‌کند. Model Spec همین مرزها را به زبانِ ساده و عمومی می‌نویسد تا کاربر، پژوهشگر و رقیب بتوانند رفتارِ واقعیِ مدل را با آن مقایسه کنند. بخشِ «متنِ ابزارها فرمان نیست» هم پاسخی به یکی از رایج‌ترین حمله‌ها به ایجنت‌هاست: پنهان‌کردنِ دستور داخلِ یک صفحه‌ی وب یا فایل. نکته‌ی دیگر شفافیت درباره‌ی حافظه است؛ اینکه مدل نباید ادعا کند چیزی را ذخیره یا پاک کرده، مگر واقعاً بداند.
این یعنی چه برای کاربر فارسی‌زبان؟
اگر از چت یا ایجنت‌ها برای کارِ جدی استفاده می‌کنید، این سند معیارِ خوبی است: بپرسید مدل کجا حدس زده، چه اجازه‌ای داشته و آیا می‌شود کارش را متوقف کرد. مقایسه‌ی این رویکرد با رقبا هم جالب است؛ مثلاً در بررسیِ هم‌ترازیِ مدلِ منتشرنشده‌ی Anthropic دیدیم شرکت‌ها چطور رفتارِ ناخواسته را می‌سنجند. برای امتحانِ مدل‌های مختلف می‌توانید در ابزارهای هوش‌نو با GPT، Claude، Gemini و دیگران گفتگو کنید و پاسخ‌هایشان را کنار هم ببینید. برای انتخابِ مدل هم راهنمای مقایسه‌ی مدل‌های هوش مصنوعی کمک می‌کند.
سؤالات متداول
Model Spec چیست؟
سندی عمومی از اوپن‌ای‌آی که رفتارِ موردانتظار از مدل‌ها را شرح می‌دهد. نسخه‌ی این خبر ۲۹ اکتبر ۲۰۲۶ است.
آیا این سند تضمین می‌کند مدل همیشه حرف‌شنو است؟
نه. سند هدف و قاعده می‌گوید؛ اینکه مدل‌ها در عمل پیروی کنند را باید آزمون‌های مستقل نشان دهند.
برای کاربر معمولی چه چیزی تغییر می‌کند؟
انتظار می‌رود مدل حافظه و گفتگوهای قبلی را بهتر به کار ببرد و فرض‌های خود را روشن‌تر بگوید.
