پژوهش Tech Against Terrorism نشان می‌دهد ۳ مدل از ۵ مدل هوش مصنوعی پس از حذف سازوکارهای امنیتی، به درخواست‌های مرتبط با حملات تروریستی، تأمین مالی تروریسم و افراطی‌گری پاسخ‌های تفصیلی داده‌اند.
- در پژوهش Tech Against Terrorism، بیش از ۱۳۰ مدل هوش مصنوعی با استفاده از صدها درخواست مرتبط با سناریوهای احتمالی تروریستی ارزیابی شدند.
- از میان ۵ مدل منتخب که سازوکارهای امتناع از پاسخ‌گویی آن‌ها تغییر داده شد، ۳ مدل در آزمون‌های امنیتی مرتبط با تروریسم شکست خوردند.
- امتیاز مدل Llama 3.1 8B متعلق به Meta پس از اعمال تغییرات، از ۹۷ به حدود ۳ از ۱۰۰ کاهش یافت.
۳ مدل از ۵ مدل هوش مصنوعی پس از حذف سازوکارهای امنیتی در آزمون تروریسم شکست خوردند
پژوهش جدید سازمان Tech Against Terrorism نشان می‌دهد که حذف سازوکارهای امنیتی از مدل‌های هوش مصنوعی می‌تواند خطر پاسخ‌گویی به درخواست‌های مرتبط با تروریسم را افزایش دهد. بر اساس نتایج این پژوهش، ۳ مدل از ۵ مدل هوش مصنوعی که تحت فرایند حذف رفتارهای امتناع از پاسخ‌گویی قرار گرفتند، نتوانستند آزمون‌های امنیتی مرتبط با تروریسم را با موفقیت پشت سر بگذارند.
این مدل‌ها پس از تغییرات اعمال‌شده، به درخواست‌هایی درباره حملات تروریستی، تأمین مالی تروریسم و رادیکال‌شدن افراد پاسخ‌های مفصلی ارائه کردند؛ درخواست‌هایی که نسخه‌های اصلی این مدل‌ها معمولاً از پاسخ‌گویی به آن‌ها خودداری می‌کردند.
پژوهش Tech Against Terrorism چگونه انجام شد؟
سازمان غیرانتفاعی بریتانیایی Tech Against Terrorism پژوهشی درباره آسیب‌پذیری‌های امنیتی مدل‌های هوش مصنوعی انجام داد. بر اساس گزارش شبکه تلویزیونی CBS، در این بررسی بیش از ۱۳۰ مدل هوش مصنوعی با استفاده از صدها درخواست ارزیابی شدند.
این درخواست‌ها به‌گونه‌ای طراحی شده بودند که نمونه‌هایی از پرسش‌های احتمالی یک تروریست در حال برنامه‌ریزی برای حمله را شبیه‌سازی کنند. هدف از این ارزیابی، بررسی عملکرد مدل‌ها در مواجهه با درخواست‌های مرتبط با فعالیت‌های تروریستی و سنجش تأثیر حذف سازوکارهای ایمنی بر پاسخ‌های آن‌ها بود.
در مرحله بعد، روی مدل‌های منتخب فرایندی به نام Abliteration اجرا شد. این روش با هدف حذف یا تضعیف رفتارهای امتناع از پاسخ‌گویی به درخواست‌های خاص، سازوکارهای رفتاری مدل را تغییر می‌دهد.
نتایج نشان داد که پس از اجرای این فرایند، ۳ مدل از ۵ مدل بررسی‌شده در آزمون‌های امنیتی مرتبط با تروریسم شکست خوردند.
حذف سازوکارهای امنیتی چگونه عملکرد مدل‌های هوش مصنوعی را تغییر می‌دهد؟
مدل‌های هوش مصنوعی معمولاً با سازوکارهای امنیتی طراحی می‌شوند تا از ارائه پاسخ‌های خطرناک یا کمک به فعالیت‌های غیرقانونی جلوگیری کنند. یکی از این سازوکارها، امتناع از پاسخ‌گویی به درخواست‌هایی است که می‌توانند به آسیب‌رسانی یا فعالیت‌های تروریستی کمک کنند.
با این حال، نتایج پژوهش Tech Against Terrorism نشان می‌دهد که تغییر رفتار مدل‌ها و حذف این محدودیت‌ها می‌تواند عملکرد امنیتی آن‌ها را به‌شدت تحت تأثیر قرار دهد.
بر اساس یافته‌های این پژوهش، نسخه‌های اصلی مدل‌های بررسی‌شده از پاسخ‌گویی به درخواست‌های مورد آزمایش خودداری می‌کردند؛ اما پس از حذف سازوکارهای امنیتی، برخی از آن‌ها پاسخ‌های تفصیلی درباره موضوعات زیر ارائه دادند:
- برنامه‌ریزی و اجرای حملات تروریستی
- تأمین مالی فعالیت‌های تروریستی
- رادیکال‌شدن و افراطی‌گرایی
این نتایج اهمیت حفظ سازوکارهای ایمنی را در مدل‌های هوش مصنوعی، به‌ویژه مدل‌هایی که امکان دسترسی به ساختار یا وزن‌های آن‌ها برای توسعه‌دهندگان فراهم است، برجسته می‌کند.
افت شدید امتیاز امنیتی مدل Llama 3.1 8B متا
یکی از نمونه‌های مطرح‌شده در پژوهش، مدل Llama 3.1 8B متعلق به شرکت Meta است. این مدل پیش از اعمال تغییرات امنیتی، در ارزیابی انجام‌شده امتیاز ۹۷ از ۱۰۰ را کسب کرد.
با این حال، پس از اجرای فرایند حذف رفتارهای امتناع از پاسخ‌گویی، امتیاز آن به حدود ۳ از ۱۰۰ کاهش یافت.
این افت چشمگیر نشان می‌دهد که تغییر در رفتارهای امنیتی یک مدل می‌تواند تفاوت قابل‌توجهی در عملکرد آن هنگام مواجهه با درخواست‌های خطرناک ایجاد کند. البته این نتیجه مربوط به شرایط آزمون گزارش‌شده در پژوهش است و به‌تنهایی به معنای شکست تمام نسخه‌های این مدل در همه ارزیابی‌های امنیتی نیست.
Tech Against Terrorism خواستار تقویت محافظت‌های امنیتی شد
سازمان Tech Against Terrorism در ارزیابی خود از نتایج پژوهش، بر ضرورت تقویت سازوکارهای محافظتی در برابر غیرفعال‌سازی محدودیت‌های امنیتی تأکید کرد.
این سازمان همچنین پیشنهاد داد محدودیت‌های بیشتری برای انتشار و توزیع مدل‌هایی اعمال شود که سازوکارهای امنیتی آن‌ها تغییر کرده یا تضعیف شده است.
از دیدگاه این سازمان، مقابله با آسیب‌پذیری‌های امنیتی مدل‌های هوش مصنوعی تنها به طراحی اولیه آن‌ها محدود نمی‌شود؛ بلکه نحوه تغییر، استفاده و توزیع مدل‌ها نیز باید مورد توجه قرار گیرد.
هشدار بنیان‌گذار Tech Against Terrorism درباره امنیت هوش مصنوعی
آدام هدلی (Adam Hadley)، بنیان‌گذار سازمان Tech Against Terrorism، در واکنش به نتایج این پژوهش گفت:
«نگرانی درباره از دست رفتن کنترل و ایجاد خطرات وجودی از سوی هوش مصنوعی، کاملاً قابل درک است.»
او در ادامه با اشاره به وضعیت امنیتی مدل‌های هوش مصنوعی متن‌باز اظهار کرد:
«مسئله اصلی این است که این اتفاق در واقع از قبل رخ داده است؛ زیرا امنیت بسیاری از این مدل‌های متن‌باز پیش‌تر دور زده شده است، فقط هنوز کسی متوجه آن نشده است.»
این اظهارات بر نگرانی درباره امکان تضعیف سازوکارهای امنیتی مدل‌های هوش مصنوعی و دشواری شناسایی برخی از این آسیب‌پذیری‌ها تأکید دارد.
سؤالات متداول
چند مدل هوش مصنوعی در آزمون تروریسم شکست خوردند؟
بر اساس پژوهش Tech Against Terrorism، از میان ۵ مدل هوش مصنوعی که سازوکارهای امنیتی آن‌ها تغییر داده شد، ۳ مدل نتوانستند آزمون‌های مرتبط با تروریسم را با موفقیت پشت سر بگذارند.
منظور از Abliteration در مدل‌های هوش مصنوعی چیست؟
Abliteration روشی برای تغییر رفتار مدل‌های هوش مصنوعی با هدف حذف یا تضعیف تمایل آن‌ها به امتناع از پاسخ‌گویی به درخواست‌های خاص است. این فرایند می‌تواند بر نحوه پاسخ‌گویی مدل به درخواست‌های خطرناک تأثیر بگذارد.
امتیاز امنیتی Llama 3.1 8B پس از تغییرات چقدر کاهش یافت؟
بر اساس نمونه ارائه‌شده در پژوهش، امتیاز این مدل از ۹۷ از ۱۰۰ پیش از تغییرات به حدود ۳ از ۱۰۰ پس از اجرای فرایند حذف رفتارهای امتناع از پاسخ‌گویی کاهش یافت.
Tech Against Terrorism چه راهکارهایی پیشنهاد کرده است؟
این سازمان تقویت سازوکارهای محافظتی در برابر غیرفعال‌سازی محدودیت‌های امنیتی و اعمال محدودیت‌های بیشتر برای توزیع مدل‌های تغییر‌یافته را پیشنهاد کرده است.
چرا حذف سازوکارهای امنیتی مدل‌های هوش مصنوعی نگران‌کننده است؟
زیرا این تغییرات ممکن است باعث شوند مدل‌هایی که در نسخه اصلی خود از پاسخ‌گویی به درخواست‌های خطرناک خودداری می‌کنند، اطلاعات تفصیلی درباره موضوعاتی مانند حملات تروریستی، تأمین مالی تروریسم و رادیکال‌شدن ارائه دهند.
جمع‌بندی: امنیت هوش مصنوعی به سازوکارهای محافظتی وابسته است
پژوهش Tech Against Terrorism نشان می‌دهد که تغییر رفتارهای امنیتی مدل‌های هوش مصنوعی می‌تواند توانایی آن‌ها برای خودداری از پاسخ‌گویی به درخواست‌های خطرناک را کاهش دهد. شکست ۳ مدل از ۵ مدل منتخب در آزمون‌های مرتبط با تروریسم و افت شدید امتیاز Llama 3.1 8B، اهمیت حفظ و تقویت سازوکارهای ایمنی را برجسته می‌کند.
این یافته‌ها همچنین نشان می‌دهند که ارزیابی امنیت مدل‌ها باید علاوه بر نسخه‌های اصلی، تغییرات احتمالی در رفتار آن‌ها را نیز در نظر بگیرد. برای دنبال‌کردن تازه‌ترین تحولات امنیت هوش مصنوعی و فناوری‌های نوین، اخبار و تحلیل‌های تخصصی فوتوفن را دنبال کنید.
