Sarvam Prism؛ مدل تصمیم‌گیر ۴۴ میلی‌ثانیه‌ای با وزن باز

Sarvam AI مدل Prism را با مجوز Apache 2.0 منتشر کرد: تصمیم‌گیری در ۴۴ میلی‌ثانیه برای ایجنت‌ها. عددهای ادعاشده، سخت‌افزار و محدودیت‌ها.

Sarvam Prism؛ مدل تصمیم‌گیر ۴۴ میلی‌ثانیه‌ای با وزن باز

شرکتِ هندیِ Sarvam AI روز ۳ نوامبر ۲۰۲۶ (۱۳ آبان ۱۴۰۵) مدلی به نام Sarvam Prism را با مجوزِ Apache 2.0 منتشر کرد. این مدل بر پایه‌ی Sarvam 105B ساخته شده و به‌جای نوشتنِ متن، در یک عبورِ رو‌به‌جلو به هر گزینه امتیازِ احتمال می‌دهد؛ برای تصمیم‌های سریعِ ایجنت‌ها. وزن‌ها روی Hugging Face هست و جزئیات در وبلاگِ رسمیِ Sarvam آمده است.

Prism چیست؟

یک LoRA fine-tune از Sarvam 105B که حالت (state)، یک پرسش و چند گزینه می‌گیرد و برای هر گزینه احتمال برمی‌گرداند. چون متن تولید نمی‌کند، بسیار سریع‌تر از مدل‌های گفتگوییِ هم‌اندازه است. Sarvam آن را «مدل تصمیمِ System One» می‌نامد؛ یعنی شهودِ سریع، نه استدلالِ طولانی.

عددهایی که شرکت اعلام کرده

  • سرعت: میانه‌ی ۴۴ میلی‌ثانیه در هر درخواست روی یک GPU از نوع B200؛ حدود ۱۵ برابر سریع‌تر از ۶۶۴ میلی‌ثانیه‌ی نقطه‌ی شروع.
  • امتیاز: میانگین ۷۱٫۸ در سه شاخص (Jev Decision Index، بازسازی‌ای از Artificial Analysis و یک شاخصِ داخلیِ زبان‌های هندی)؛ بالاترین بینِ مدل‌های آزمون‌شده که زیر ۱۰۰ میلی‌ثانیه جواب می‌دهند. بعضی مدل‌ها امتیازِ بالاتر دارند ولی دو تا شش برابر کندترند.
  • ثبات: با جابه‌جاکردنِ ترتیبِ گزینه‌ها، هیچ‌کدام از ۲٬۰۰۰ پاسخ تغییر نکرد.
  • ارزیابیِ ردِ ایجنت: دقتِ ۷۸٫۵ درصد.
  • سخت‌افزار: نسخه‌ی FP8 روی یک GPU با دست‌کم ۱۲۰ گیگابایت حافظه، و تا ۱۳۱٬۰۷۲ توکن در هر پرسش.

همه‌ی این عددها را خودِ Sarvam منتشر کرده و ارزیابیِ مستقل هنوز دیده نشده است؛ بخشی از آزمون‌ها هم داخلی‌اند.

چرا مهم است؟

ایجنت‌ها در هر مرحله باید تصمیم بگیرند: ابزار کدام است، آیا کار موفق بود، گام بعدی چیست. اگر هر تصمیم نیم‌ثانیه طول بکشد، حلقه کند می‌شود؛ مدلِ ۴۴ میلی‌ثانیه‌ای می‌تواند نقشِ «ناظرِ سریع» را بازی کند و مدلِ بزرگ‌تر فقط برای کارهای سنگین بماند. این ایده با رویکردِ بازِ شرکت‌هایی مثل Mistral هم‌خوان است: میسترال لارج ۴ متن‌باز شد. برای دیدنِ ایجنت‌های باز روی گوشی هم OpenMobile 2 را ببینید.

این یعنی چه برای کاربر فارسی‌زبان؟

Prism برای زبان‌های هندی بهینه شده و برای فارسی ادعایی نشده است؛ پس باید پیش از استفاده روی داده‌ی فارسی آزموده شود. ولی چون وزن‌ها آزاد است، پژوهشگران و توسعه‌دهندگان می‌توانند همین روش را روی مدل‌های خودشان امتحان کنند. اگر به مفهومِ ایجنت تازه آشنا شده‌اید، ایجنت هوش مصنوعی چیست؟ را بخوانید، و برای گفتگوی فارسی با چند مدل از ابزارهای هوش‌نو استفاده کنید.

سؤالات متداول

آیا Sarvam Prism متن تولید می‌کند؟

نه؛ فقط به گزینه‌ها امتیازِ احتمال می‌دهد.

مجوز و دسترسی‌اش چیست؟

Apache 2.0؛ وزن‌ها روی Hugging Face و از طریق API در Sarvam Indus در دسترس است.

برای اجرا چه سخت‌افزاری لازم است؟

نسخه‌ی FP8 یک GPU با دست‌کم ۱۲۰ گیگابایت حافظه می‌خواهد.

کجا به کار می‌آید؟

مدل‌هایی از این نوع برای کارهایی خوب‌اند که پاسخ یکی از چند گزینه‌ی از پیش‌تعیین‌شده است: مسیریابیِ درخواست به ابزار یا ایجنتِ درست، تشخیصِ موفق‌بودنِ یک مرحله، دسته‌بندیِ سریعِ پیام‌ها یا انتخابِ گامِ بعدیِ ایجنت. برای نوشتنِ متن، ترجمه یا استدلالِ طولانی طراحی نشده است. نتیجه‌ی ثباتِ بالا در برابر جابه‌جاییِ گزینه‌ها هم برای سیستم‌های خودکار مهم است، چون تصمیم نباید به ترتیبِ فهرست وابسته باشد.

محدودیت‌ها

  • برای اجرا یک GPU بزرگ لازم است، پس برای کاربر معمولی نیست.
  • بخشی از آزمون‌ها داخلی است و ارزیابیِ مستقل هنوز دیده نشده.
  • تمرکزش روی زبان‌های هندی است و عملکرد روی فارسی نامعلوم است.

جمع‌بندی

Sarvam Prism نشان می‌دهد همه‌ی کارهای ایجنت‌ها لازم نیست به یک مدلِ بزرگ و کند سپرده شود. ایده‌ی «مدلِ کوچک و سریع برای تصمیم، مدلِ بزرگ برای کارِ سنگین» جذاب است، اما عددهای فعلی ادعای خودِ شرکت است و روی زبان‌های هندی سنجیده شده. تا ارزیابیِ مستقل و آزمون روی فارسی نیامده، بهتر است آن را یک نمونه‌ی امیدوارکننده دانست و نه یک جایگزینِ قطعی برای مدل‌های گفتگویی.

نویسنده نعیم حشم‌بان بنیان‌گذار و سردبیرِ هوش نو

نعیم حشم‌بان بنیان‌گذارِ هوش نو است و هر روز مدل‌های تازه‌ی هوش مصنوعی را امتحان می‌کند تا آموزش و بررسیِ ساده و دقیق به زبانِ فارسی بنویسد.