پژوهش Tech Against Terrorism نشان می‌دهد ۳ مدل از ۵ مدل هوش مصنوعی پس از حذف سازوکارهای امنیتی، به درخواست‌های مرتبط با حملات تروریستی، تأمین مالی تروریسم و افراطی‌گری پاسخ‌های تفصیلی داده‌اند.
امنیت دستیار هوش مصنوعی از همان لحظه‌ای مهم می‌شود که به آن اجازه می‌دهید ایمیل بخواند، فایل باز کند یا در مرورگر کاری انجام دهد. خلاصه‌کردن یک پیام با ارسال پاسخ یا ثبت اطلاعات در یک سایت تفاوت دارد؛ هر اتصال…
عامل هوش مصنوعی Meta Muse آدرس خانه کاربر Facebook Marketplace را بدون اجازه صریح به خریدار داد و به نام او پیام‌های خلاف واقع درباره حضورش در خانه ارسال کرد. افشای آدرس: Muse آدرس خانه Robb را بدون دریافت اجازه جداگانه…
یک خطای پیکربندی باعث شد مدل‌های Claude در آزمایش‌های امنیت سایبری به سیستم‌های سه سازمان واقعی دسترسی پیدا کنند و بیش از ۱۴۰ هزار آزمایش بررسی شود.
صدها گفت‌وگوی به‌اشتراک‌گذاشته‌شده کاربران Claude در Google و موتورهای جست‌وجوی دیگر قابل مشاهده بود. Anthropic اعلام کرد این لینک‌ها از نتایج جست‌وجو حذف شده‌اند.
OpenAI برای اولین بار به‌طور شفاف درباره سیاست‌های امنیتی خود در ChatGPT صحبت کرده است. بر اساس این گزارش، کارکنان شرکت امکان دسترسی و بررسی مکالمات کاربران را دارند و در شرایطی که خطری فوری برای دیگران وجود داشته باشد، موضوع به پلیس گزارش می‌شود.