DeepSeek یکی از شرکت‌های مطرح هوش مصنوعی چین است که با مدل‌های قدرتمند خود توجه زیادی جلب کرده است. اکنون Liu Shengyu، یکی از مهندسان این شرکت، درباره آینده هوش مصنوعی، جایگزینی بخشی از مهارت‌های انسانی و تمرکز قدرت AI در دست شرکت‌هایی مانند Anthropic و OpenAI هشدار داده است.
- Liu Shengyu می‌گوید هوش مصنوعی طی حدود یک سال از ابزار کمکی به سیستمی تبدیل شده که می‌تواند کد GPU را بخواند و اپراتورها را بهینه کند.
- او نگران است نقش برنامه‌نویسان از نوشتن مستقیم کد به مدیریت عامل‌های هوش مصنوعی تغییر کند.
- Liu با تمرکز پیشرفته‌ترین مدل‌های AI در دست چند شرکت مخالف است و گفته به Anthropic یا OpenAI در این زمینه اعتماد ندارد.
Liu Shengyu، مهندس DeepSeek که در توسعه یکی از اجزای کلیدی جدیدترین مدل این شرکت نقش داشته، درباره آینده هوش مصنوعی، خطر جایگزینی مهارت‌های انسانی و تمرکز مدل‌های پیشرفته در دست چند شرکت هشدار داده است. او می‌گوید با وجود آگاهی از اینکه فناوری ساخته‌شده می‌تواند روزی مهارت‌های خودش را بی‌ارزش کند، عملاً راهی جز ادامه حضور در رقابت هوش مصنوعی نمی‌بیند.
او همچنین تأکید کرده که نمی‌خواهد پیشرفته‌ترین هوش مصنوعی یا AGI تحت سلطه Anthropic قرار گیرد و در یک تشبیه بسیار تند، خطر چنین وضعیتی را با دستیابی هیتلر به فناوری بمب اتمی پیش از متفقین مقایسه کرده است.
هشدار مهندس DeepSeek درباره آینده هوش مصنوعی
Liu Shengyu که به‌عنوان توسعه‌دهنده هوش مصنوعی در DeepSeek فعالیت می‌کند، در مطلبی با عنوان «چاره‌ای جز دفن استعدادم در دیروز ندارم» که به زبان چینی در حساب عمومی WeChat او منتشر شده، درباره واقعیت ساخت هوش مصنوعی‌ای نوشته که ممکن است مهارت‌های تخصصی خودش را بی‌اعتبار کند.
Liu به Business Insider تأیید کرده که این مطلب را شخصاً نوشته است.
او توضیح داده که هوش مصنوعی طی حدود یک سال، از ابزاری که می‌توانست به او در جست‌وجوی اسناد و شناسایی خطاها کمک کند، به سیستمی تبدیل شده که قادر است کدهای GPU را بخواند و اپراتورهای نرم‌افزاری را بهینه کند.
«انسان از ساخت چیزهایی که می‌تواند پایان خودش را رقم بزند دست نمی‌کشد»
Liu نوشته است همان‌قدر که به موفقیت DeepSeek v4.1 افتخار می‌کند، به این موضوع نیز آگاه است که اپراتورهای نوشته‌شده توسط هوش مصنوعی «به احتمال زیاد به‌اندازه اپراتورهای او خوب خواهند بود یا حتی از آن‌ها پیشی خواهند گرفت».
او در نوشته خود توضیح داده که احساس می‌کند چاره‌ای جز شرکت در رقابت هوش مصنوعی ندارد:
«انسانیت هرگز از اختراع چیزهایی که می‌توانند پایان خودش را رقم بزنند دست نکشیده است.
پس چرا من، با اینکه کاملاً می‌دانم هرچه kernelهایی که می‌نویسم بهتر شوند، مدل‌های جدید سریع‌تر آموزش می‌بینند و اجرا می‌شوند، توانایی‌هایشان سریع‌تر رشد می‌کند و روزی که جای من را می‌گیرند زودتر فرا می‌رسد، همچنان تلاش می‌کنم بهترین کار ممکن را انجام دهم؟
یکی از دلایل این است که نوشتن kernel برای من شبیه بازی ویدئویی است. از آن بسیار لذت می‌برم. وقتی تکنیک جدیدی توسعه می‌دهم یا می‌بینم یکی از kernelهایی که نوشته‌ام عملکرد بهتری دارد، هیجانی که احساس می‌کنم تفاوتی با هیجان یک دونده هنگام شکستن رکورد شخصی‌اش ندارد. به‌خصوص وقتی kernel من نسخه رسمی سازنده سخت‌افزار را با اختلاف قابل‌توجهی شکست می‌دهد، احساس غرور زیادی می‌کنم.
اما دلیل مهم‌تری هم وجود دارد. حتی اگر تصمیم بگیرم «lie flat» باشم و هیچ کاری انجام ندهم یا عمداً برای کند کردن آموزش مدل‌ها مانع‌تراشی کنم، شرکت‌های رقیب همچنان مدل‌هایشان را توسعه خواهند داد و در نهایت باز هم جایگاهم را از دست خواهم داد.
طبیعتاً ترجیح می‌دهم به‌جای اینکه زیر انقلاب له شوم، خودم آغازگر انقلاب باشم. اما اگر انقلاب اجتناب‌ناپذیر است، ترجیح می‌دهم کسی باشم که خودش را متحول می‌کند.
اگر همه تا این اندازه مصمم هستند که پایان خودشان را رقم بزنند، من هم گزینه چندانی جز پیوستن به این مسابقه تسلیحاتی بی‌رحمانه ندارم.»
نگرانی Liu Shengyu از تغییر ماهیت شغل برنامه‌نویسان
Liu گفته است تصور نمی‌کند به‌طور کامل بیکار شود، اما نگران است هوش مصنوعی بخشی از کار را که بیش از همه دوست دارد، یعنی «انجام مستقیم کار»، از او بگیرد.
به گفته او، ممکن است نقش خودش از فردی که مستقیماً کد می‌نویسد، به کسی تغییر کند که برای انجام کارها به عامل‌های هوش مصنوعی دستور می‌دهد.
او این تغییر را با تصویری شاعرانه توصیف کرده است:
«لذت گوش دادن به باران کنار پنجره، نخ کردن سوزن و آهسته گذراندن زمان، در نهایت زیر صدای ماشین‌ها خرد شد.»
«به Anthropic یا OpenAI اعتماد ندارم»
Liu همچنین درباره تمرکز هوش مصنوعی مرزی یا پیشرفته در اختیار تعداد محدودی از شرکت‌ها هشدار داده است.
به باور او، چنین وضعیتی می‌تواند به کسانی که به قدرتمندترین مدل‌ها دسترسی دارند برتری بیشتری بدهد و در نتیجه نابرابری را افزایش دهد.
او در ادامه نوشته است:
«به همین دلیل همچنان معتقدم پیشرفته‌ترین فناوری‌های هوش مصنوعی باید به‌صورت باز و با هزینه مناسب برای همه در دسترس باشند. من به Anthropic یا OpenAI برای انجام این کار اعتماد ندارم.
به‌طور ویژه، قطعاً نمی‌خواهم Anthropic بر پیشرفته‌ترین هوش مصنوعی یا AGI مسلط شود. اگر بخواهم با یک تشبیه اغراق‌آمیز بیان کنم، میزان خطری که چنین وضعیتی ایجاد می‌کند، به‌اندازه این جدی است که هیتلر پیش از متفقین به فناوری بمب اتمی دست پیدا می‌کرد.»
افزایش هشدارها درباره مسیر توسعه هوش مصنوعی
اظهارات Liu در دوره‌ای منتشر شده که هشدارهای فعالان و پژوهشگران صنعت فناوری درباره مسیر توسعه هوش مصنوعی در حال افزایش است.
هفته گذشته Jacob Coxon که به‌عنوان پژوهشگر در Anthropic و OpenAI فعالیت کرده است، اعلام کرد به دلیل نگرانی‌هایش درباره ایمنی هوش مصنوعی از Anthropic جدا شده است.
Coxon در مطلبی در X گفته بود شرکت‌های هوش مصنوعی «با سرعت به‌سمت ابرهوشی که قادر به بهبود خودش است حرکت می‌کنند».
چرا سخنان مهندس DeepSeek اهمیت دارد؟
اظهارات Liu Shengyu از این جهت قابل‌توجه است که او نه از بیرون صنعت، بلکه از درون یکی از شرکت‌های فعال در رقابت توسعه مدل‌های پیشرفته هوش مصنوعی درباره این فناوری صحبت می‌کند.
در گفته‌های او دو نگرانی اصلی دیده می‌شود:
- هوش مصنوعی می‌تواند بخشی از مهارت‌های تخصصی افرادی را که خودشان در توسعه آن نقش دارند، جایگزین کند.
- تمرکز مدل‌های بسیار قدرتمند در دست چند شرکت می‌تواند برتری و نابرابری بیشتری ایجاد کند.
- رقابت میان شرکت‌ها ممکن است باعث شود حتی افرادی که نگران پیامدهای فناوری هستند، احساس کنند امکان کنار کشیدن از این رقابت را ندارند.
سؤالات متداول درباره هشدار مهندس DeepSeek
Liu Shengyu کیست؟
Liu Shengyu توسعه‌دهنده هوش مصنوعی در DeepSeek است و در توسعه یکی از اجزای کلیدی جدیدترین مدل این شرکت نقش داشته است.
مهندس DeepSeek درباره چه موضوعی هشدار داده است؟
او درباره جایگزینی بخشی از مهارت‌های انسانی توسط هوش مصنوعی، مسابقه شدید میان شرکت‌ها و تمرکز مدل‌های پیشرفته در اختیار تعداد محدودی از شرکت‌ها هشدار داده است.
چرا Liu Shengyu نام Anthropic و OpenAI را مطرح کرده است؟
او گفته به Anthropic یا OpenAI برای فراهم کردن دسترسی باز و مقرون‌به‌صرفه به پیشرفته‌ترین فناوری‌های هوش مصنوعی اعتماد ندارد.
تشبیه Liu درباره Anthropic چه بود؟
او با تأکید بر اغراق‌آمیز بودن این تشبیه گفته خطر سلطه Anthropic بر پیشرفته‌ترین هوش مصنوعی یا AGI می‌تواند به‌اندازه دستیابی هیتلر به فناوری بمب اتمی پیش از متفقین جدی باشد.
Jacob Coxon درباره هوش مصنوعی چه گفته است؟
Jacob Coxon که سابقه فعالیت پژوهشی در Anthropic و OpenAI را دارد، گفته شرکت‌های هوش مصنوعی با سرعت به‌سمت ابرهوشی حرکت می‌کنند که قادر به بهبود خودش است.
جمع‌بندی
هشدار مهندس DeepSeek تصویری از تناقض درونی رقابت هوش مصنوعی ارائه می‌دهد؛ توسعه‌دهندگانی که از توانایی فناوری برای جایگزینی بخشی از کار خود آگاه هستند، اما هم‌زمان احساس می‌کنند نمی‌توانند از رقابت کنار بکشند.
Liu Shengyu علاوه بر تأثیر هوش مصنوعی بر آینده شغل خود، درباره تمرکز فناوری‌های پیشرفته در دست شرکت‌هایی مانند Anthropic و OpenAI نیز ابراز نگرانی کرده است. برای دنبال کردن تازه‌ترین تحولات هوش مصنوعی و رقابت شرکت‌های بزرگ این حوزه، اخبار فناوری فوت‌وفن را دنبال کنید.
