Jacob Coxon با هشدار درباره رقابت Anthropic و OpenAI برای ساخت ابرهوش خودبهبوددهنده و خطر احتمالی آن برای بشریت، از Anthropic استعفا کرد.
- Jacob Coxon پس از سه سال فعالیت پژوهشی در OpenAI و Anthropic، از Anthropic استعفا کرد.
- او هر دو شرکت را به رقابت غیرمسئولانه برای توسعه ابرهوش خودبهبوددهنده متهم کرده است.
- Coxon می‌گوید بسیاری از فعالان این صنعت احتمال نابودی بشر بر اثر هوش مصنوعی تا پایان دهه را جدی می‌دانند.
Jacob Coxon، پژوهشگر Anthropic، با هشدار درباره خطر هوش مصنوعی و رقابت شرکت‌ها برای ساخت ابرهوش خودبهبوددهنده از این شرکت استعفا کرد. او می‌گوید شرکت‌های هوش مصنوعی با سرعت به‌سمت سیستم‌هایی حرکت می‌کنند که ممکن است از کنترل خارج شوند و حتی بشریت را نابود کنند.
Coxon که در Anthropic روی آموزش مدل‌های جدید هوش مصنوعی با استفاده از حجم عظیمی از داده‌ها تخصص داشت، روز سه‌شنبه استعفای خود را اعلام کرد. او گفت نمی‌خواهد در رقابت گسترده صنعت برای ساخت سیستم‌های هوش مصنوعی با قابلیت بهبود خودشان مشارکت داشته باشد.
خطر هوش مصنوعی؛ دلیل استعفای پژوهشگر Anthropic
Coxon توضیح داد که نگرانی از خارج شدن چنین سیستم‌هایی از کنترل و احتمال نابودی بشریت، یکی از دلایل تصمیم او برای ترک Anthropic بوده است.
او در حساب X خود نوشت:
«امروز از Anthropic استعفا دادم. سه سال گذشته را صرف تحقیقات پیش‌آموزش در OpenAI و Anthropic کردم. هیچ‌یک از این دو شرکت مسئولانه رفتار نمی‌کنند. آن‌ها در یک رقابت مستقیم به‌سمت ابرهوش خودبهبوددهنده حرکت می‌کنند و با زندگی ما قمار می‌کنند.»
هشدار Jacob Coxon درباره قدرت ابرهوش مصنوعی
Coxon به کاربران هشدار داد که قدرت این فناوری را دست‌کم نگیرند. او معتقد است سیستم‌های هوش مصنوعی در آینده نزدیک ممکن است به توانایی‌هایی بسیار فراتر از انسان دست پیدا کنند.
او در ادامه نوشت:
«این‌ها به‌زودی سیستم‌های ابرانسانی خواهند بود که می‌توانند همه‌چیز را هک کنند، هر حوزه‌ای را یک‌شبه متحول کنند و به قدرت و منابع واقعی دست پیدا کنند. همه ما پیشرفت در این حوزه‌ها را شخصاً مشاهده کرده‌ایم و این پیشرفت کند نمی‌شود.»
«توسعه‌دهندگان هوش مصنوعی واقعاً نگران نابودی بشر هستند»
Coxon ادعا کرد افرادی که روی توسعه هوش مصنوعی کار می‌کنند، واقعاً احتمال می‌دهند این فناوری تا پایان دهه جاری باعث نابودی انسان‌ها شود.
او گفت:
«افرادی که هوش مصنوعی را توسعه می‌دهند، صادقانه باور دارند که این فناوری ممکن است تا پایان دهه همه ما را بکشد. این یک ترفند بازاریابی نیست.»
به گفته او، بسیاری از مدیران و پژوهشگران ارشد هنگام صحبت با رسانه‌ها در انتخاب کلمات خود محتاط هستند تا منطقی به نظر برسند، اما همان افراد در محافل خصوصی نگرانی‌هایشان را بیان می‌کنند.
Coxon افزود:
«هیچ فعالیت انسانی دیگری چنین سطحی از خطر را ایجاد نمی‌کند.»
چرا با وجود خطر، توسعه هوش مصنوعی ادامه دارد؟
Coxon در ادامه به پرسشی پرداخت که به گفته او واکنشی رایج به چنین هشدارهایی است: «اگر واقعاً به این خطر اعتقاد دارند، چرا هنوز در حال ساخت آن هستند؟»
او در پاسخ، میان رویکرد کارکنان OpenAI و Anthropic تفاوت قائل شد.
به گفته Coxon:
«در OpenAI، بسیاری از افراد خطراتی را که تمدن با آن روبه‌رو است، عمیقاً درک نکرده‌اند. در Anthropic، خطرات به‌خوبی درک شده‌اند، اما آن‌ها در رقابتی برای اول شدن قرار دارند؛ آن‌ها معتقدند هیچ‌کس مسئولانه رفتار نخواهد کرد، بنابراین باور دارند با وجود خطرات باید خودشان این کار را انجام دهند.»
پیام Coxon به پژوهشگران آزمایشگاه‌های هوش مصنوعی
Jacob Coxon در پایان سخنان خود مستقیماً پژوهشگرانی را خطاب قرار داد که در آزمایشگاه‌های فعال در حوزه هوش مصنوعی کار می‌کنند.
او گفت:
«اگر پژوهشگر یک آزمایشگاه هستید، قویاً توصیه می‌کنم به این فکر کنید که چند سال آینده واقعاً چه حسی خواهد داشت.»
سؤالات متداول درباره استعفای پژوهشگر Anthropic
چرا Jacob Coxon از Anthropic استعفا کرد؟
او گفت نمی‌خواهد در رقابت برای ساخت ابرهوش خودبهبوددهنده مشارکت کند و نگران است چنین سیستم‌هایی از کنترل خارج شوند و بشریت را نابود کنند.
Jacob Coxon در چه شرکت‌هایی فعالیت کرده است؟
او گفته است سه سال گذشته را به تحقیقات پیش‌آموزش مدل‌های هوش مصنوعی در OpenAI و Anthropic اختصاص داده است.
هشدار Coxon درباره خطر هوش مصنوعی چیست؟
او معتقد است سیستم‌های آینده می‌توانند به توانایی‌های ابرانسانی برسند، همه‌چیز را هک کنند، حوزه‌های مختلف را به‌سرعت متحول کنند و به قدرت و منابع واقعی دسترسی پیدا کنند.
دیدگاه Coxon درباره Anthropic و OpenAI چیست؟
او هر دو شرکت را به رفتار غیرمسئولانه متهم کرده است. به گفته او، Anthropic خطرات را به‌خوبی می‌شناسد، اما همچنان برای پیشتازی در توسعه ابرهوش رقابت می‌کند.
جمع‌بندی
استعفای Jacob Coxon از Anthropic با یک هشدار جدی درباره خطر هوش مصنوعی همراه شده است. او معتقد است OpenAI و Anthropic در رقابتی مستقیم برای دستیابی به ابرهوش خودبهبوددهنده قرار دارند و این مسیر می‌تواند پیامدهای بسیار خطرناکی برای بشریت داشته باشد. برای دنبال کردن تازه‌ترین تحولات هوش مصنوعی و فناوری، اخبار این حوزه را دنبال کنید.
