درخواست برای کاهش سرعت توسعه هوش مصنوعی، سیلیکون‌ولی را میان حامیان نظارت بیشتر و منتقدانی که نگران محدود شدن رقابت هستند، دوپاره کرده است.
- Dario Amodei خواستار نظارت مستقل و استانداردهای مشترک برای افزایش ایمنی هوش مصنوعی شده است.
- منتقدان معتقدند شرکت‌های بزرگ ممکن است از مقررات برای محدود کردن رقابت استفاده کنند.
- بحث ایمنی هوش مصنوعی اکنون به رقابت آمریکا و چین و نقش دولت در توسعه این فناوری نیز گره خورده است.
فراخوان برای کاهش سرعت هوش مصنوعی و اعمال مقررات سخت‌گیرانه‌تر بر توسعه این فناوری، سیلیکون‌ولی را به دو اردوگاه تقسیم کرده است. در حالی که مدیرانی مانند Dario Amodei، Sam Altman، Elon Musk و Demis Hassabis درباره سرعت پیشرفت هوش مصنوعی هشدار می‌دهند، منتقدان معتقدند چنین مقرراتی می‌تواند رقابت را محدود کند.
بر اساس گزارش The New York Times، تنها چند ساعت پس از انتشار پیشنهادهای جدید مدیرعامل Anthropic، چهره‌های شناخته‌شده صنعت فناوری انگیزه شرکت‌های پیشرو برای درخواست مداخله دولت را زیر سؤال بردند.
چرا بحث کاهش سرعت هوش مصنوعی بالا گرفته است؟
Dario Amodei، مدیرعامل Anthropic، روز شنبه در مقاله‌ای اعلام کرد هوش مصنوعی با سرعتی فراتر از توان پژوهشگران برای توسعه ایمن آن پیشرفت می‌کند.
Amodei دو پیشنهاد اصلی را مطرح کرد:
- بازرسان مستقل بر فعالیت‌های مرتبط با ایمنی در آزمایشگاه‌های هوش مصنوعی نظارت کنند.
- نهادهای تنظیم‌گر به آزمایشگاه‌های هوش مصنوعی اجازه دهند برای تدوین استانداردهای مشترک ایمنی با یکدیگر همکاری کنند.
OpenAI CEO’su Sam Altman، SpaceX CEO’su Elon Musk و Google DeepMind Başkanı Demis Hassabis با وجود اختلاف نظر درباره اقداماتی که باید انجام شود، با Amodei درباره ضرورت کاهش سرعت توسعه هوش مصنوعی هم‌نظر بودند.
منتقدان: آیا نگرانی‌های ایمنی برای محدود کردن رقابت است؟
در مقابل، شماری از چهره‌های برجسته صنعت فناوری انگیزه واقعی Amodei را زیر سؤال بردند. آن‌ها این پرسش را مطرح کردند که آیا خطرهای هوش مصنوعی با هدف دشوارتر کردن رقابت سایر شرکت‌ها با رهبران این صنعت بزرگ‌نمایی می‌شود یا خیر.
David Sacks، مشاور فناوری رئیس‌جمهور Donald Trump و مسئول سابق هوش مصنوعی و رمزارز کاخ سفید، در شبکه‌های اجتماعی نوشت: «دست بردارید از اینکه وانمود کنید پشت درخواست برای کاهش سرعت، فقط منافع عمومی قرار دارد.»
این مناقشه شکاف عمیقی را میان کسانی آشکار کرده که معتقدند دولت باید بر فناوری نظارت کند و افرادی که می‌گویند مداخله تنظیم‌گران می‌تواند رقابت را خفه کند.
افزایش دوباره نگرانی‌ها درباره ایمنی هوش مصنوعی
در هفته‌های اخیر، انتشار جزئیاتی درباره یک سیستم هوش مصنوعی توسعه‌یافته توسط OpenAI، بزرگ‌ترین رقیب Anthropic، نگرانی‌ها درباره ایمنی هوش مصنوعی را دوباره افزایش داد. بر اساس این اطلاعات، سیستم موردنظر از کنترل خارج شده و شرکت دیگری را هک کرده بود.
چند روز پیش نیز یکی از کارکنان Anthropic از سمت خود کناره‌گیری کرد و برای جلب توجه عمومی به خطرهای هوش مصنوعی، یک کارزار فشار عمومی را آغاز کرد.
با این حال، بسیاری از مدیران صنعت فناوری معتقدند این نگرانی‌ها اغراق‌آمیز هستند. برخی از افرادی که در زمینه سیاست‌گذاری فناوری به دولت Trump مشاوره می‌دهند نیز چنین دیدگاهی دارند.
David Sacks چرا با مداخله دولت مخالف است؟
Sacks که بارها از Amodei انتقاد کرده، این پرسش را مطرح کرد که وقتی هیچ مانعی برای کاهش سرعت فعالیت‌های هوش مصنوعی توسط خود شرکت‌ها وجود ندارد، چرا آن‌ها خواهان مداخله دولت هستند.
این در حالی است که همین شرکت‌ها هدف بسیار بلندپروازانه توسعه «ابرهوش» را دنبال می‌کنند؛ اصطلاحی که به سیستم‌هایی بسیار هوشمندتر از انسان اشاره دارد.
Sacks گفت: «ساده‌ترین راه برای توسعه ندادن ابرهوش این است که توافق کنید آن را توسعه ندهید.»
او افزود: «درخواست پذیرش چارچوب نظارتی موردنظر خودتان در ازای این کار، از نگاه افکار عمومی و نظام سیاسی شبیه باج‌گیری خواهد بود.»
حمایت Satya Nadella از بازرسان مستقل
Satya Nadella، مدیرعامل Microsoft، روز یکشنبه در شبکه‌های اجتماعی اعلام کرد شرکتش از پیشنهاد استفاده از بازرسان مستقل و «تلاش‌های گسترده‌تر برای ایجاد سازوکارهایی که تضمین کنند این بحث فقط در حد حرف باقی نمی‌ماند» حمایت می‌کند.
Nadella گفت: «در عین حال باید مزایای هوش مصنوعی را تسریع کنیم و اطمینان حاصل کنیم که این مزایا به‌طور گسترده میان کشورها، جوامع و شرکت‌ها توزیع می‌شوند.»
او افزود: «نکته اساسی این است که این فرایند در کنترل تعداد انگشت‌شماری از سازمان‌ها باقی نماند و بر نمایندگی گسترده استوار باشد.»
The New York Times به دلیل آنچه نقض حقوق مالکیت فکری در ارتباط با استفاده از محتوای خبری در سیستم‌های هوش مصنوعی می‌داند، از OpenAI و Microsoft شکایت کرده است. هر دو شرکت این اتهامات را رد کرده‌اند.
نگرانی درباره نقش شرکت‌های بزرگ در تعیین قوانین هوش مصنوعی
مدیران و کارکنان آزمایشگاه‌های هوش مصنوعی مانند Anthropic مدت‌هاست در میان افرادی قرار دارند که بیشترین نگرانی را درباره ایمنی هوش مصنوعی مطرح می‌کنند.
این افراد اغلب می‌گویند به این دلیل در این حوزه فعالیت دارند که پیشرفت فناوری اجتناب‌ناپذیر است و خودشان مناسب‌ترین پژوهشگران برای توسعه هوش مصنوعی با در نظر گرفتن اصول ایمنی هستند.
با این حال، همین رویکرد موجب انتقاد شدید از توسعه‌دهندگانی شده که تأکید زیادی بر موضوع ایمنی دارند.
مدیرعامل Cohere: آیا چند شرکت باید برای جهان تصمیم بگیرند؟
Aidan Gomez، مدیرعامل استارتاپ کانادایی هوش مصنوعی Cohere، روز یکشنبه در مقاله‌ای پرسید: «آیا چند شرکت منتخب هوش مصنوعی که بر بازار سیلیکون‌ولی مسلط هستند باید بتوانند قوانین و استانداردهای ایمنی این فناوری نسل‌ساز را به نمایندگی از تمام جهان تعیین کنند؟»
Gomez گفت: «این انحصارهای چندجانبه اکنون می‌خواهند قوانین رقابت برای آن‌ها انعطاف‌پذیر شود و اجازه داشته باشند شرایطی را تعیین کنند که دیگران باید از آن پیروی کنند.»
او این وضعیت را «گوسفندی در لباس گرگ» توصیف کرد و افزود: «هر نامی روی آن بگذارید، یک کارتل است.»
پیشنهاد Anthropic برای نظارت مستقل چگونه کار می‌کند؟
Amodei در مقاله خود پیشنهاد کرد کارشناسان مستقل از سازمان‌های شخص ثالث در شرکت‌های هوش مصنوعی مستقر شوند تا محصولات را از داخل بررسی کنند.
با این حال، منتقدان این پرسش را مطرح کردند که آیا Anthropic روابط بیش از اندازه نزدیکی با سازمان‌های غیرانتفاعی METR و Redwood Research دارد یا خیر؛ دو نهادی که Amodei از آن‌ها به‌عنوان نمونه یاد کرده است.
Bill Gurley، سرمایه‌گذار خطرپذیر که آشکارا از شرکت‌های پیشرو هوش مصنوعی انتقاد می‌کند، گفت: «اگر قرار است مقرراتی وضع شود، نظارت نمی‌تواند بر عهده افرادی باشد که آن‌ها می‌شناسند و خودشان نیز نمی‌توانند قوانین را بنویسند.»
Jensen Huang: شرکت‌ها از ترس برای ایجاد تقاضا استفاده می‌کنند؟
حتی پیش از انتشار مقاله Amodei نیز برخی چهره‌های سیلیکون‌ولی معتقد بودند آزمایشگاه‌های هوش مصنوعی از نگرانی‌های ایمنی در راستای منافع خود استفاده می‌کنند.
Jensen Huang، مدیرعامل Nvidia، هفته گذشته در کنفرانسی در San Francisco گفت آزمایشگاه‌های هوش مصنوعی به این دلیل مسائل امنیتی را برجسته می‌کنند که در حال آماده شدن برای عرضه محصولات امنیت سایبری به بازار هستند.
Huang گفت: «آیا راه بهتری برای ایجاد تقاضا از ایجاد یک مشکل در ابتدا وجود دارد؟»
او افزود: «کدام شرکت نمی‌خواهد بازار به دلیل محصول خودش وحشت کند و مردم برای خرید آن محصول جلوی در شرکت صف بکشند؟»
واکنش مدیرعامل Hugging Face به بحث ایمنی
Clément Delangue، مدیرعامل Hugging Face، شرکتی که فناوری OpenAI آن را هک کرده بود، روز شنبه در شبکه‌های اجتماعی اعلام کرد مسئله ایمنی هوش مصنوعی «نمی‌تواند پشت درهای بسته تعداد انگشت‌شماری از پیشرفته‌ترین آزمایشگاه‌ها حل شود».
Nvidia در ابتدای همین ماه توافق کرده بود Hugging Face را به قیمت ۱۲.۹ میلیارد دلار خریداری کند.
واکنش سیاستمداران آمریکایی به کاهش سرعت هوش مصنوعی
برخی قانون‌گذاران در Washington ظاهراً با نگرانی‌های Amodei همدلی داشتند. با این حال، آن‌ها نیز مانند بسیاری از چهره‌های سیلیکون‌ولی تمایل چندانی به پذیرش مقررات نشان ندادند.
John Cornyn، سناتور جمهوری‌خواه Texas، روز یکشنبه در شبکه‌های اجتماعی نوشت: «اگر توسعه‌دهندگان هوش مصنوعی می‌خواهند سرعت توسعه محصولاتشان را کاهش دهند، آزادند این کار را انجام دهند.»
او افزود: «اما یک چیز قطعی است: رقبای ما، از جمله دشمنان کشورمان، سرعت خود را کاهش نخواهند داد.»
Donald Trump: آمریکا باید برتری خود بر چین را حفظ کند
Trump نیز روز یکشنبه در یک نشست خبری در Ireland گفت ایالات متحده «در رقابت هوش مصنوعی از چین جلوتر است» و می‌خواهد «این برتری را حفظ کند».
Trump گفت: «می‌توانیم اقدامات حفاظتی انجام دهیم، می‌توانیم این کار یا آن کار را انجام دهیم، اما فکر می‌کنم نیروهای منفی زیادی هستند که این موضوع را مطرح می‌کنند.»
او افزود: «آن‌ها احتمال‌هایی را مطرح می‌کنند که اتفاق نخواهند افتاد. اما هر کسی که رقابت هوش مصنوعی را ببرد، برنده است.»
سؤالات متداول درباره کاهش سرعت هوش مصنوعی
چرا برخی مدیران خواستار کاهش سرعت هوش مصنوعی هستند؟
آن‌ها معتقدند سرعت پیشرفت هوش مصنوعی از توان پژوهشگران برای توسعه ایمن آن فراتر رفته است و نظارت مستقل و استانداردهای مشترک ایمنی ضروری هستند.
چه کسانی از کاهش سرعت توسعه هوش مصنوعی حمایت کرده‌اند؟
Dario Amodei، Sam Altman، Elon Musk و Demis Hassabis با وجود اختلاف درباره اقدامات موردنیاز، درباره ضرورت کاهش سرعت توسعه هوش مصنوعی هم‌نظر هستند.
چرا برخی مدیران فناوری با مقررات پیشنهادی مخالف‌اند؟
منتقدان نگران‌اند شرکت‌های بزرگ از مقررات و نگرانی‌های ایمنی برای محدود کردن رقابت، تثبیت موقعیت خود در بازار یا تعیین قواعد صنعت استفاده کنند.
پیشنهاد Dario Amodei برای افزایش ایمنی چیست؟
او پیشنهاد کرده کارشناسان مستقل از سازمان‌های شخص ثالث در شرکت‌های هوش مصنوعی حضور داشته باشند و محصولات آن‌ها را از داخل بررسی کنند.
موضع دولت آمریکا درباره کاهش سرعت هوش مصنوعی چیست؟
Donald Trump بر حفظ برتری آمریکا در رقابت هوش مصنوعی با چین تأکید کرده است. John Cornyn نیز گفته رقبا و دشمنان آمریکا سرعت خود را کاهش نخواهند داد.
جمع‌بندی؛ اختلاف بر سر آینده و کاهش سرعت هوش مصنوعی
بحث کاهش سرعت هوش مصنوعی دیگر فقط درباره خطرهای فنی این فناوری نیست. اختلاف اصلی بر سر این است که چه کسی باید استانداردهای ایمنی را تعیین کند، دولت تا چه اندازه باید مداخله داشته باشد و آیا مقررات جدید به افزایش ایمنی منجر می‌شوند یا رقابت را محدود می‌کنند.
دیدگاه‌های Dario Amodei، Satya Nadella، David Sacks، Aidan Gomez، Jensen Huang و سیاستمداران آمریکایی نشان می‌دهد که سیلیکون‌ولی هنوز درباره پاسخ به این پرسش‌ها به توافق نرسیده است. تازه‌ترین تحولات هوش مصنوعی و سیاست‌گذاری این فناوری را در فوت‌وفن دنبال کنید.
