بیش از ۶۰۰ نفر از کارکنان گوگل از این شرکت خواستهاند توافق احتمالی با پنتاگون را که میتواند به استفاده از هوش مصنوعی گوگل در عملیات نظامی محرمانه منجر شود، رد کند. آنها هشدار دادهاند که این فناوری ممکن است در مسیرهایی «غیرانسانی» مانند نظارت گسترده و سلاحهای خودکار مرگبار مورد استفاده قرار گیرد.
کارکنان گوگل علیه استفاده نظامی از هوش مصنوعی
در بیانیهای که روز دوشنبه منتشر شد، بیش از ۶۰۰ کارمند گوگل از شرکت خواستند با قرارداد احتمالی با وزارت دفاع آمریکا مخالفت کند؛ قراردادی که میتواند به استفاده از هوش مصنوعی این شرکت در عملیات محرمانه نظامی منجر شود.
در نامه سرگشادهای که خطاب به ساندار پیچای، مدیرعامل گوگل نوشته شده، آمده است: «ما میخواهیم هوش مصنوعی به نفع بشریت باشد، نه اینکه در روشهای غیرانسانی یا بسیار آسیبزا استفاده شود.»
در ادامه این نامه تأکید شده است: «این موضوع شامل سلاحهای خودکار مرگبار و نظارت گسترده میشود، اما فقط به این موارد محدود نیست.»
نگرانی درباره استفاده از Gemini در محیطهای محرمانه
این نامه که توسط کارکنانی از بخشهای مختلف گوگل از جمله Google DeepMind، Cloud و سایر واحدها امضا شده، همزمان با مذاکرات این غول فناوری با وزارت دفاع آمریکا درباره استفاده احتمالی از مدل هوش مصنوعی Gemini در محیطهای طبقهبندیشده منتشر شده است.
بیش از ۲۰ مدیر، مدیر ارشد و معاون رئیس نیز بهصورت علنی این نامه را امضا کردهاند.
یکی از کارکنان سازماندهنده این اعتراض که نامش در بیانیه ذکر نشده، گفته است: «پروژههای محرمانه ذاتاً غیرشفاف هستند.»
او اضافه کرد: «در حال حاضر هیچ راهی وجود ندارد که مطمئن شویم ابزارهای ما برای ایجاد آسیبهای جدی یا تضعیف آزادیهای مدنی خارج از نظارت عمومی استفاده نمیشوند. ما درباره مواردی مانند پروفایلسازی افراد یا هدف قرار دادن غیرنظامیان بیگناه صحبت میکنیم.»
فشار فزاینده بر شرکتهای فناوری برای شفافسازی
این نامه در شرایطی منتشر شده که شرکتهای فناوری با فشار فزایندهای برای شفافسازی نحوه استفاده نظامی و اطلاعاتی از ابزارهای هوش مصنوعی خود روبهرو هستند. این موضوع پس از اختلاف میان پنتاگون و استارتاپ هوش مصنوعی Anthropic بیشتر مورد توجه قرار گرفت.
اختلاف پنتاگون با Anthropic
شرکت Anthropic پیشتر علیه وزارت دفاع آمریکا شکایت کرده بود، زیرا پس از درخواست این شرکت مبنی بر عدم استفاده از سیستمهایش برای نظارت گسترده یا جنگ خودکار، از سوی پنتاگون به عنوان «ریسک زنجیره تأمین» معرفی شد.
داریو آمودی، مدیرعامل Anthropic، اعلام کرده بود که «با وجدان راحت نمیتواند» درخواست پنتاگون برای دسترسی نامحدود به سیستمهای هوش مصنوعی این شرکت را بپذیرد.
او نوشته بود: «ما معتقدیم در مجموعه محدودی از موارد، هوش مصنوعی میتواند به جای دفاع از ارزشهای دموکراتیک، آنها را تضعیف کند.»
وی همچنین تأکید کرد: «برخی استفادهها اساساً خارج از محدودهای هستند که فناوری امروز بتواند آنها را به شکل ایمن و قابل اعتماد انجام دهد.»
پس از این تصمیم، دونالد ترامپ، رئیسجمهور آمریکا، به نهادهای دولتی دستور داد استفاده از چتبات Claude این شرکت را متوقف کنند.
پیشنهاد گوگل برای محدودسازی استفاده نظامی
بر اساس گفته برگزارکنندگان این نامه، گوگل پیشنهاد داده بود بندی قراردادی اضافه شود که مانع استفاده از Gemini برای نظارت گسترده داخلی یا سلاحهای خودکار بدون کنترل مناسب انسانی شود.
اما پنتاگون خواستار استفاده از عبارت گستردهتر «همه استفادههای قانونی» شده و استدلال کرده که این موضوع برای حفظ انعطاف عملیاتی ضروری است.
کارکنان گوگل معتقدند اجرای چنین محدودیتهایی در عمل بسیار دشوار خواهد بود، زیرا سیاستهای فعلی پنتاگون کنترل خارجی بر سیستمهای هوش مصنوعی خود را محدود میکند.
مقایسه با اعتراض Project Maven در سال ۲۰۱۸
بیانیه اخیر کارکنان گوگل یادآور اعتراض سال ۲۰۱۸ این شرکت است؛ زمانی که کارکنان علیه مشارکت گوگل در Project Maven اعتراض کردند. این پروژه از هوش مصنوعی برای تحلیل تصاویر پهپادهای نظامی استفاده میکرد.
در آن زمان نیز کارکنان اعلام کرده بودند: «ما باور داریم گوگل نباید در کسبوکار جنگ باشد.»
در ادامه آن نامه آمده بود: «بنابراین ما درخواست میکنیم Project Maven لغو شود و گوگل سیاستی شفاف تدوین، منتشر و اجرا کند که بر اساس آن نه گوگل و نه پیمانکارانش هرگز فناوری جنگی تولید نکنند.»
جمعبندی
اعتراض کارکنان گوگل به استفاده نظامی از هوش مصنوعی نشان میدهد نگرانیهای اخلاقی درباره توسعه فناوریهای پیشرفته روزبهروز جدیتر میشود. مسئله اصلی این است که هوش مصنوعی باید در خدمت انسان باشد، نه ابزاری برای نظارت گسترده، جنگ یا تضعیف آزادیهای مدنی.
شما درباره استفاده نظامی از هوش مصنوعی چه فکر میکنید؟ دیدگاه خود را با ما به اشتراک بگذارید.
