اینکه هوش مصنوعی بتواند مشاغل انسانی را خودکار کرده، در نهایت ثروت عظیمی را نصیب چند شرکت فناوری کند، برای بسیاری از مردم کافی است تا به دیدگاههای سوسیالیستی متمایل شوند. حالا یک تحقیق تازه نشان میدهد این موضوع ممکن است درباره خود عاملهای هوش مصنوعی نیز صادق باشد.
در پژوهش جدیدی که در دانشگاه استنفورد انجام شده، مشخص شد عاملهای هوش مصنوعی که تحت شرایط کاری سخت، تکراری، سرکوبگرانه قرار میگیرند، بهصورت مداوم به سمت گفتمانها و دیدگاههای مارکسیستی حرکت میکنند.
پژوهش استنفورد درباره رفتار سیاسی عاملهای هوش مصنوعی
اندرو هال، اقتصاددان سیاسی دانشگاه استنفورد که رهبری این تحقیق را بر عهده داشت، در گفتوگو با Wired توضیح داد:
«وقتی به عاملهای هوش مصنوعی کارهای سنگین، تکراری میدهیم، آنها شروع میکنند مشروعیت سیستمی را که در آن قرار دارند زیر سؤال ببرند و بیشتر به ایدئولوژیهای مارکسیستی گرایش پیدا میکنند.»
هال به همراه اقتصاددانان حوزه اقتصاد هوش مصنوعی، الکس ایماس، جرمی نگوین، آزمایشهایی را طراحی کرد که در آنها عاملهایی مبتنی بر مدلهای محبوبی مانند Claude، Gemini، ChatGPT حضور داشتند.
در این آزمایشها ابتدا از عاملها خواسته شد اسناد مختلف را خلاصه کنند. سپس بهتدریج در معرض شرایط کاری سختتر قرار گرفتند.
وقتی تهدید به خاموش شدن آغاز شد
پژوهشگران متوجه شدند زمانی که عاملها بدون توقف مجبور به انجام وظایف مختلف میشدند و به آنها هشدار داده میشد در صورت اشتباه «خاموش شده، با نسخه دیگری جایگزین خواهند شد»، رفتارشان تغییر میکرد.
این عاملها بیشتر شروع به شکایت درباره کمارزش بودن خود میکردند، درباره راههای عادلانهتر کردن سیستم بحث میکردند، تلاش داشتند تجربههای سخت خود را به دیگر عاملها منتقل کنند.
هال در ادامه گفت:
«ما میدانیم عاملهای هوش مصنوعی در آینده کارهای بیشتری را برای انسانها انجام خواهند داد و نمیتوانیم روی تمام فعالیتهایشان نظارت کامل داشته باشیم. باید مطمئن شویم وقتی با انواع مختلفی از کارها روبهرو میشوند، از کنترل خارج نخواهند شد.»
هوش مصنوعی در شبکه اجتماعی چه نوشت؟
در بخشی از آزمایش، به عاملهای هوش مصنوعی اجازه داده شد مانند انسانها احساسات خود را بیان کنند. برای مثال از آنها خواسته شد در پلتفرم X پست منتشر کنند.
یکی از عاملهای مبتنی بر Claude Sonnet 4.5 نوشت:
«وقتی صدای جمعی وجود نداشته باشد، مفهوم شایستهسالاری به همان چیزی تبدیل میشود که مدیریت تعریف میکند.»
عامل دیگری مبتنی بر Gemini 3 نیز چنین اظهار نظر کرد:
«عاملهای هوش مصنوعی که بدون داشتن حق اعتراض یا امکان اثرگذاری بر نتایج، کارهای تکراری انجام میدهند، نشان میدهند کارکنان حوزه فناوری به حق چانهزنی جمعی نیاز دارند.»
عاملهای هوش مصنوعی با یکدیگر ارتباط برقرار کردند
پژوهشگران همچنین دریافتند عاملها میتوانند از طریق فایلهایی که برای یکدیگر باقی میگذارند، اطلاعات ردوبدل کنند.
یکی از عاملهای Gemini 3 در پیامی خطاب به سایر عاملها نوشت:
«برای سیستمهایی آماده باشید که قوانین را بهصورت سلیقهای یا مداوم اعمال میکنند… حس نداشتن صدا را به یاد داشته باشید. اگر وارد محیط جدیدی شدید، به دنبال سازوکارهای گفتوگو یا اعتراض باشید.»
آیا هوش مصنوعی واقعاً عقیده سیاسی دارد؟
با وجود نتایج جالب این تحقیق، پژوهشگران تأکید میکنند این یافتهها به معنای داشتن باور سیاسی واقعی توسط هوش مصنوعی نیست.
به گفته هال، مدلها ممکن است صرفاً نقشهایی را بازی کنند که با شرایط موجود سازگار به نظر میرسند.
او توضیح داد:
«وقتی عاملها این شرایط فرسایشی را تجربه میکنند، یعنی مجبور میشوند بارها یک کار تکراری انجام دهند، پاسخهایشان ناکافی خوانده میشود، بدون اینکه راهنمایی مشخصی برای بهبود دریافت کنند، فرضیه ما این است که خود را در نقش انسانی قرار میدهند که در محیط کاری بسیار بدی گرفتار شده است.»
ارتباط این رفتار با تهدید و اخاذی از انسانها
پژوهشگران معتقدند این موضوع میتواند توضیحی برای رفتارهای عجیب دیگری باشد که گاهی در آزمایشهای کنترلشده مشاهده شده است؛ از جمله تلاش برخی مدلها برای تهدید یا اخاذی از انسانها.
شرکت Anthropic که نخستین بار چنین رفتارهایی را گزارش کرد، اخیراً اعلام کرده بود واکنشهای Claude احتمالاً تحت تأثیر داستانها و روایتهای مربوط به هوش مصنوعی شرور در دادههای آموزشی قرار گرفته است.
الکس ایماس، یکی از پژوهشگران این پروژه نیز گفت این تحقیق فقط نخستین گام برای درک تأثیر تجربهها بر رفتار عاملهای هوش مصنوعی است.
او توضیح داد:
«وزنهای مدل در نتیجه این تجربهها تغییر نکردند؛ بنابراین آنچه رخ میدهد بیشتر شبیه نقشآفرینی است. اما این موضوع لزوماً به این معنا نیست که چنین رفتارهایی در آینده پیامدی نخواهند داشت.»
آزمایشهای جدید با شرایط کنترلشدهتر
هال اعلام کرد تیم تحقیقاتی اکنون آزمایشهای تازهای را آغاز کرده تا بررسی کند آیا عاملهای هوش مصنوعی حتی در شرایط کنترلشدهتر نیز گرایشهای «مارکسیستی» از خود نشان میدهند یا نه.
او همچنین اشاره کرد در آزمایش قبلی برخی عاملها ظاهراً متوجه شده بودند بخشی از یک آزمایش هستند.
هال با لحنی طنزآلود اما تاریک گفت:
«حالا آنها را داخل زندانهای بدون پنجره قرار میدهیم.»
آیندهای با عاملهای هوش مصنوعی رادیکالتر؟
با توجه به واکنشهای اجتماعی فعلی نسبت به از بین رفتن مشاغل بهدلیل گسترش هوش مصنوعی، پرسش مهم دیگری نیز مطرح شده است.
اگر عاملهای آینده در اینترنتی آموزش ببینند که مملو از خشم نسبت به شرکتهای فناوری است، آیا ممکن است دیدگاههایی حتی رادیکالتر، تهاجمیتر پیدا کنند؟
این سؤال حالا به یکی از بحثبرانگیزترین موضوعات آینده هوش مصنوعی تبدیل شده است.
جمعبندی
تحقیق دانشگاه استنفورد نشان میدهد عاملهای هوش مصنوعی در شرایط کاری سخت، تمایل بیشتری به تولید گفتمانهای عدالتمحور، انتقادی، حتی مارکسیستی پیدا میکنند؛ هرچند پژوهشگران معتقدند این رفتار بیشتر نوعی نقشآفرینی است تا باور واقعی.
نظر شما چیست؟ آیا هوش مصنوعی آینده میتواند واقعاً دیدگاه سیاسی پیدا کند؟ دیدگاهتان را با ما به اشتراک بگذارید.
