گوگل، مایکروسافت و xAI در چارچوب توافقی جدید با دولت ایالات متحده، دسترسی زودهنگام به مدلهای پیشرفته هوش مصنوعی خود را برای انجام تستهای مرتبط با امنیت ملی فراهم میکنند.
مرکز استانداردها و نوآوری هوش مصنوعی (CAISI) وابسته به وزارت بازرگانی آمریکا، در بیانیهای رسمی جزئیات این همکاری را اعلام کرد.
همکاری گسترده برای ارزیابی ایمنی هوش مصنوعی
در این بیانیه آمده است که توافقهای جدیدی با Google DeepMind، مایکروسافت و xAI امضا شده است. هدف از این همکاری، ارزیابی دقیقتر توانمندیهای پیشرفته هوش مصنوعی و ارتقای سطح ایمنی آن از طریق تحقیقات هدفمند و ارزیابیهای پیش از عرضه عنوان شده است.
CAISI تأکید کرده است که با گسترش همکاریهای صنعتی، امکان بررسی عمیقتر مدلهای پیشرفته پیش از عرضه عمومی فراهم میشود. این رویکرد به بهبود درک ریسکها و قابلیتهای این فناوری کمک میکند.
بیش از ۴۰ ارزیابی از مدلهای پیشرفته
بر اساس این گزارش، توافقهای انجامشده با توسعهدهندگان پیشرو هوش مصنوعی، امکان ارزیابی مدلها را پیش از انتشار عمومی فراهم کرده است. این مرکز تاکنون بیش از ۴۰ ارزیابی را انجام داده که شامل مدلهای پیشرفتهای است که هنوز منتشر نشدهاند.
در بسیاری از موارد، توسعهدهندگان نسخههایی از مدلها را که دارای محدودیتهای ایمنی کمتری هستند در اختیار CAISI قرار میدهند تا ارزیابی دقیقتری از ریسکها و تواناییهای مرتبط با امنیت ملی انجام شود.
اهمیت سنجش مستقل در هوش مصنوعی
کریس فال، مدیر CAISI، در اینباره اعلام کرد که اندازهگیری مستقل و دقیق، نقش کلیدی در درک تأثیرات هوش مصنوعی بر امنیت ملی دارد.
او افزود: «علم سنجش مستقل و دقیق برای درک پیشرفتهترین سیستمهای هوش مصنوعی و تأثیرات آنها بر امنیت ملی ضروری است. این همکاریهای گسترده صنعتی به ما کمک میکند تا در زمانی حساس، فعالیتهای خود را در راستای منافع عمومی گسترش دهیم.»
جمعبندی: گامی مهم در مسیر ایمنی هوش مصنوعی
این همکاری میان شرکتهای بزرگ فناوری و دولت آمریکا، نشاندهنده اهمیت روزافزون هوش مصنوعی در حوزه امنیت ملی است. دسترسی زودهنگام به مدلها، امکان شناسایی ریسکها پیش از انتشار را فراهم کرده و به توسعه ایمنتر این فناوری کمک میکند.
برای اطلاع از جدیدترین تحولات دنیای هوش مصنوعی و فناوری، مطالب ما را دنبال کنید و همیشه یک قدم جلوتر باشید.
