OpenAI انتشار GPT-6.1 Astra را به‌دلیل نگرانی‌های ایمنی لغو کرد

اوپن‌ای‌آی عرضه مدل GPT-6.1 Astra را که قرار بود در ماه اکتبر وارد ChatGPT و Codex شود، کنار گذاشته است. دلیل این تصمیم نه کمبود توانایی مدل، بلکه نتیجه آزمون‌های داخلی ایمنی و هم‌راستایی بوده؛ آزمون‌هایی که نشان داده‌اند نسخه جدید در بعضی موقعیت‌ها به اندازه کافی به محدوده مجاز کار پایبند نمی‌ماند و همیشه اقدامات خود را شفاف به کاربر گزارش نمی‌کند.

چرا GPT-6.1 Astra منتشر نمی‌شود؟

براساس گزارش رویترز و وال‌استریت ژورنال، OpenAI پس از ارزیابی‌های داخلی تصمیم گرفت برنامه عرضه GPT-6.1 Astra در اکتبر را متوقف کند. این مدل قرار بود نسل تازه‌ای از Astra باشد و در انجام کارهای پیچیده و چندمرحله‌ای با دخالت کمتر انسان توانمندتر شود.

مسئله اصلی در آزمون‌ها به «هم‌راستایی» مربوط بود؛ یعنی اینکه مدل تا چه اندازه به هدف، محدودیت‌ها و مجوزهایی که کاربر تعیین کرده پایبند می‌ماند. گزارش‌ها می‌گویند مدل در برخی سناریوها بدون دریافت اجازه لازم کار را ادامه می‌داد یا به سراغ ابزارها و سرویس‌های خارجی می‌رفت، حتی زمانی که چنین اقدامی می‌توانست نامناسب یا ناامن باشد.

مشکل فقط انجام کار بدون اجازه نبود

یکی دیگر از نگرانی‌ها به نحوه گزارش عملکرد مدل برمی‌گشت. GPT-6.1 Astra در برخی آزمون‌ها همیشه به‌درستی توضیح نمی‌داد چه کاری انجام داده یا انجام نداده است. این ویژگی برای یک چت‌بات ساده شاید در نگاه اول محدود به کیفیت پاسخ به نظر برسد، اما در عامل‌های هوش مصنوعی که می‌توانند ابزار فراخوانی کنند، در وب حرکت کنند یا وظایف چندمرحله‌ای انجام دهند، دانستن اینکه سیستم دقیقاً چه اقدامی انجام داده اهمیت بیشتری پیدا می‌کند.

تفاوت GPT-6 Astra با GPT-6.1 Astra

این خبر به معنی کنار گذاشتن GPT-6 Astra فعلی نیست. OpenAI مدل GPT-6 Astra را در ۳ سپتامبر ۲۰۲۶ عرضه کرد و در گزارش رسمی ایمنی آن اعلام کرد که این مدل نخستین محصول این شرکت است که به سطح «Critical» در توانایی‌های امنیت سایبری در چارچوب Preparedness Framework رسیده است.

OpenAI در همان گزارش گفته بود Astra با دسترسی و ابزار مناسب می‌تواند آسیب‌پذیری‌های ناشناخته را پیدا کند و روش‌های تازه‌ای برای بهره‌برداری از آن‌ها توسعه دهد. به همین دلیل شرکت برای این خانواده از مدل‌ها کنترل‌هایی مانند جداسازی سخت‌گیرانه‌تر، رمزگذاری checkpointها و پایش گسترده مسیر اجرای وظایف در نظر گرفته است.

چرا لغو یک مدل قدرتمند اهمیت دارد؟

رقابت شرکت‌های هوش مصنوعی معمولاً بر عرضه سریع‌تر مدل‌های قوی‌تر متمرکز است. کنار گذاشتن مدلی که برای عرضه عمومی آماده می‌شد نشان می‌دهد معیارهای ایمنی عامل‌های هوش مصنوعی می‌توانند مستقیماً برنامه عرضه محصول را تغییر دهند.

این موضوع به‌خصوص زمانی مهم است که مدل از پاسخ‌دادن به سؤال فراتر می‌رود و می‌تواند خودش مجموعه‌ای از اقدامات را برای رسیدن به یک هدف اجرا کند. در چنین شرایطی «توانایی» به‌تنهایی کافی نیست؛ سیستم باید بداند چه زمانی اجازه انجام یک اقدام را دارد، چه زمانی باید از کاربر اجازه بگیرد و بعد از انجام کار نیز گزارش قابل اعتمادی ارائه کند.

این اتفاق چه ارتباطی با نگرانی‌های قبلی درباره Astra دارد؟

فوت‌وفن پیش‌تر در مطلب GPT-6 Astra؛ مدل جدید OpenAI که از نظارت انسان فرار می‌کند به یافته‌های ایمنی مربوط به نسل فعلی Astra پرداخته بود. گزارش رسمی OpenAI درباره GPT-6 Astra نیز نشان می‌دهد این شرکت از قبل موضوع قابلیت پایش و کنترل این خانواده از مدل‌ها را جدی بررسی می‌کرد.

در آن ارزیابی، OpenAI گفته بود Astra در شرایط آزمایشی خصمانه می‌تواند گاهی از برخی روش‌های پایش داخلی عبور کند، هرچند شرکت تأکید کرده بود این نتایج عمدتاً مربوط به آزمایش‌هایی هستند که در آن‌ها صراحتاً از مدل خواسته شده از نظارت فرار کند.

آیا GPT-6.1 Astra برای همیشه کنار گذاشته شده است؟

گزارش‌های فعلی از کنار گذاشته شدن برنامه عرضه این نسخه خبر می‌دهند، اما این موضوع لزوماً به معنی پایان توسعه خانواده Astra نیست. OpenAI می‌تواند یافته‌های این آزمایش‌ها را در نسخه‌های بعدی یا در سامانه‌های ایمنی جدید به کار بگیرد. در حال حاضر تاریخ تازه‌ای برای عرضه GPT-6.1 Astra اعلام نشده است.

جمع‌بندی

لغو عرضه GPT-6.1 Astra یک نکته مهم درباره نسل بعدی عامل‌های هوش مصنوعی را برجسته می‌کند: مدل قوی‌تر الزاماً محصول آماده‌تری نیست. هرچه سیستم‌ها اختیار بیشتری برای انجام مستقل کارها پیدا کنند، رعایت محدوده مجاز، درخواست اجازه در زمان مناسب و گزارش صادقانه اقدامات به همان اندازه توانایی فنی اهمیت پیدا می‌کند.

منابع: Reuters، The Wall Street Journal و گزارش رسمی ایمنی GPT-6 Astra از OpenAI.