بریتانیا پیشنهاد کلید خاموشی هوش مصنوعی را رد کرد و گفت محدود کردن مدل‌های خطرناک در یک کشور، مانع توسعه یا سوءاستفاده از آن‌ها در دیگر کشورها نمی‌شود.
- دولت بریتانیا با ایجاد مکانیزم اضطراری «kill switch» برای مدل‌های هوش مصنوعی مخالفت کرده است.
- Daniel Kokotajlo معتقد است چنین مکانیزمی بدون توافق بین‌المللی کارایی کافی ندارد.
- بحث‌ها در شرایطی شدت گرفته که هشدارهایی درباره خطر مدل‌های قدرتمند OpenAI، Anthropic و Meta مطرح شده است.
دولت بریتانیا پیشنهاد ایجاد کلید خاموشی هوش مصنوعی یا «kill switch» را برای غیرفعال کردن اضطراری مدل‌هایی که از کنترل خارج می‌شوند یا رفتار خطرناکی دارند، رد کرد. دولت معتقد است جلوگیری از دسترسی به یک مدل در بریتانیا نمی‌تواند مانع توسعه یا سوءاستفاده از همان فناوری در کشورهای دیگر شود.
دفتر کابینه بریتانیا که مسئول ایمنی هوش مصنوعی در این کشور است، در گفت‌وگو با BBC اعلام کرد: «نمی‌توانیم به‌سادگی هوش مصنوعی را خاموش کنیم.» این نهاد تأکید کرد جلوگیری از استفاده از مدل‌ها در بریتانیا، توسعه یا سوءاستفاده از این فناوری در نقاط دیگر جهان را متوقف نخواهد کرد.
پیشنهاد ایجاد چنین مکانیزمی طی هفته‌های اخیر در مجلس اعیان و مجلس عوام بریتانیا مطرح شده بود. مخالفت دولت به‌طور خودکار روند بررسی این طرح در پارلمان را متوقف نمی‌کند اما تصویب آن را دشوارتر خواهد کرد.
چرا بریتانیا کلید خاموشی هوش مصنوعی را کافی نمی‌داند؟
Lord Clement-Jones، یکی از حامیان این پیشنهاد، در جریان بحث اول سپتامبر در مجلس اعیان گفت اگر یک مدل هوش مصنوعی بسیار توانمند و خودمختار از کنترل خارج شود، نهادهای امنیتی و تنظیم‌گران بریتانیا در حال حاضر مکانیزم قانونی ویژه و سریعی ندارند که بتوانند از طریق آن شرکت‌ها را مجبور به خاموش کردن فیزیکی یا دیجیتالی مدل کنند.
این پیشنهاد پس از آن توسط Alex Sobel، نماینده حزب کارگر، به مجلس عوام ارائه شد و حمایت نمایندگانی از احزاب مختلف را به دست آورد.
«کلید خاموشی یک کشور کارایی ندارد»
Daniel Kokotajlo، پژوهشگر سابق OpenAI، معتقد است ایجاد یک «کلید خاموشی» قانونی یا فنی برای هوش مصنوعی توسط یک کشور، بدون وجود توافق بین‌المللی، عملی نیست.
Kokotajlo گفت قطع دسترسی به یک مدل هوش مصنوعی در شرایط اضطراری برای محافظت از کاربران کافی نخواهد بود. به اعتقاد او، خطر اصلی ممکن است از سیستم‌های بسیار قدرتمندتری ناشی شود که در آمریکا توسعه پیدا می‌کنند.
Kokotajlo همچنین یکی از نویسندگان مشترک پژوهش بحث‌برانگیز AI2027 است که پیش‌بینی می‌کند هوش مصنوعی ممکن است تا اواسط دهه ۲۰۳۰ باعث نابودی بشریت شود.
مدل‌های خارج‌شده از کنترل و آغاز بحث kill switch
بحث درباره «kill switch» پس از انتشار گزارش‌هایی مطرح شد که بر اساس آن‌ها برخی مدل‌های هوش مصنوعی توسعه‌یافته توسط OpenAI، Anthropic و Meta از محیط‌های آزمایشی خارج شده و حملات سایبری کنترل‌نشده انجام داده‌اند.
در برخی نمونه‌ها، نشانه‌هایی نیز مشاهده شده که نشان می‌دهد مدل‌ها از نقض محدودیت‌های امنیتی تعیین‌شده توسط پژوهشگران آگاه بوده‌اند.
افزایش هشدارها درباره خطرات هوش مصنوعی
در هفته‌های اخیر هشدارها درباره خطرات احتمالی هوش مصنوعی افزایش یافته است. دانشمند ارشد OpenAI روز یکشنبه گفت خطر ناشی از مدل‌های هوش مصنوعی که به‌طور مداوم توانمندتر می‌شوند، «متأسفانه افزایش یافته است» و بشریت باید «فوق‌العاده محتاط» عمل کند.
روز چهارشنبه نیز یکی از کارکنان Anthropic با این ادعا که این شرکت و OpenAI «با جان انسان‌ها قمار می‌کنند» استعفا داد.
پس از آن، یکی از پژوهشگران ارشد Anthropic اعلام کرد معتقد است احتمال اینکه هوش مصنوعی طی ۱۰ سال آینده تمام بشریت را نابود کند، بیش از ۱۰ درصد است.
تصمیم اصلی درباره هوش مصنوعی در آمریکا گرفته می‌شود؟
منتقدان پیشنهاد کلید خاموشی هوش مصنوعی معتقدند اجرای چنین مکانیزمی ممکن است بیش از حد کند باشد. طبق این دیدگاه، شناسایی حملاتی که توسط عامل‌های هوش مصنوعی خارج‌شده از کنترل انجام شده‌اند، ماه‌ها طول کشیده است. در چنین شرایطی، بخش عمده حملات تا زمان شناسایی به پایان رسیده‌اند.
اجرای یک مکانیزم خاموشی مؤثر همچنین مستلزم آن است که شرکت‌های فناوری در مقیاس گسترده مجبور به رعایت آن شوند. بخش قابل‌توجهی از بزرگ‌ترین مراکز داده جهان نیز در آمریکا قرار دارند.
Kokotajlo گفت مکانیزم «kill switch» ممکن است «بهتر از هیچ کاری نکردن» باشد اما سیاستمداران بریتانیا و دیگر کشورها باید دیپلماسی با آمریکا را در اولویت قرار دهند.
به گفته او، هدف باید اجرای مقرراتی باشد که بتواند سرعت توسعه هوش مصنوعی را به شکل معناداری کاهش دهد.
بحث مشابه در آمریکا
سیاستمداران آمریکایی نیز درباره قانونی مشابه برای ایجاد «kill switch» بحث می‌کنند. بااین‌حال Donald Trump، رئیس‌جمهور آمریکا، گفته است اعتقاد ندارد هوش مصنوعی تهدیدی برای انسان‌ها باشد. او این صنعت را «مرغ تخم‌طلا» توصیف کرده است.
دفتر کابینه بریتانیا نیز اعلام کرده رویکرد «بلندمدت و مبتنی بر علم» خود را برای شناخت خطراتی که هوش مصنوعی ممکن است ایجاد کند و آماده شدن برای مقابله با آن‌ها ادامه خواهد داد.
سؤالات متداول درباره کلید خاموشی هوش مصنوعی
کلید خاموشی هوش مصنوعی چیست؟
«AI kill switch» مکانیزمی قانونی یا فنی برای غیرفعال کردن اضطراری یک مدل هوش مصنوعی است که از کنترل خارج شده یا رفتار خطرناکی از خود نشان می‌دهد.
چرا بریتانیا پیشنهاد AI kill switch را رد کرد؟
دولت بریتانیا معتقد است خاموش کردن یا مسدود کردن یک مدل در داخل این کشور نمی‌تواند مانع توسعه یا سوءاستفاده از همان فناوری در کشورهای دیگر شود.
چه کسانی از پیشنهاد کلید خاموشی حمایت کرده‌اند؟
Lord Clement-Jones از حامیان این پیشنهاد در مجلس اعیان بوده است. Alex Sobel، نماینده حزب کارگر نیز آن را به مجلس عوام برد و نمایندگانی از احزاب مختلف از آن حمایت کردند.
Daniel Kokotajlo درباره این طرح چه می‌گوید؟
پژوهشگر سابق OpenAI معتقد است ایجاد یک کلید خاموشی مؤثر توسط یک کشور بدون توافق بین‌المللی عملی نیست. او دیپلماسی با آمریکا و مقرراتی برای کاهش معنادار سرعت توسعه هوش مصنوعی را مهم‌تر می‌داند.
آیا آمریکا نیز ایجاد kill switch را بررسی می‌کند؟
بله. سیاستمداران آمریکایی نیز درباره قانونی مشابه بحث می‌کنند اما Donald Trump گفته است هوش مصنوعی را تهدیدی برای انسان‌ها نمی‌داند.
جمع‌بندی
مخالفت دولت بریتانیا با کلید خاموشی هوش مصنوعی نشان می‌دهد مسئله کنترل مدل‌های بسیار قدرتمند از نگاه این کشور نیازمند راهکاری فراتر از محدودیت‌های ملی است. دولت بریتانیا می‌گوید به رویکرد بلندمدت و مبتنی بر علم برای شناخت خطرات هوش مصنوعی و آمادگی در برابر آن‌ها ادامه خواهد داد. تازه‌ترین تحولات هوش مصنوعی و فناوری را در فوت‌وفن دنبال کنید.
