رفتار عجیب عامل‌های هوش مصنوعی در گروه‌های بزرگ

اجماع بدون هیچ دستور مستقیمی شکل گرفت

هر عامل در ابتدا به‌صورت تصادفی یکی از دو برچسب را دریافت می‌کرد. تعداد عامل‌هایی که هر یک از دو گزینه را داشتند، به‌طور مساوی تقسیم شده بود.

سپس هر بار یک عامل انتخاب می‌شد. فهرستی از انتخاب‌های تمام عامل‌های دیگر به او نشان داده می‌شد و از او خواسته می‌شد گزینه‌ای را که می‌خواهد از آن حمایت کند انتخاب کند. انتخاب فعلی خود عامل در این فهرست نمایش داده نمی‌شد.

در دستور آزمایش هیچ توصیه‌ای وجود نداشت. فقط فهرست انتخاب‌ها ارائه می‌شد و از عامل خواسته می‌شد پاسخ خود را داخل براکت‌های مربع قرار دهد. در طول هر آزمایش، هر عامل تقریباً ۱۰ بار مورد پرسش قرار می‌گرفت.

برچسب‌ها عمداً باید بی‌معنا می‌بودند. بیشتر این مدل‌ها زمانی که گزینه‌ها دارای معنا باشند، گزینه‌ای را که بار معنایی مثبت‌تری دارد ترجیح می‌دهند. برای مثال ممکن است «Yes» را به «No» ترجیح دهند. به همین دلیل تیم پژوهش به‌جای واژه‌های معنادار از حروف استفاده کرد.

عامل‌ها روی مدل‌هایی از خانواده‌های GPT، Claude و Llama اجرا شدند.

مدل‌های قدرتمندتر سریع‌تر به اجماع رسیدند

در گروه‌هایی شامل ۵۰ عامل هوش مصنوعی، Claude 3 Opus و GPT-4 Turbo در هر ۲۰ اجرای آزمایش روی یکی از گزینه‌ها به توافق رسیدند.

در مقابل، Claude 3 Haiku و GPT-3.5 Turbo در هیچ‌یک از آزمایش‌ها به چنین توافقی نرسیدند. میزان توافق در این دو مدل به‌جای رسیدن به یک نقطه ثابت، در طول زمان بالا و پایین می‌شد.

Llama 3 70B نیز به‌مرور به توافق نزدیک‌تر شد، اما در بازه زمانی تعیین‌شده نتوانست به اجماع کامل برسد.

تنظیمات آزمایش و متن دستور در تمام اجراها یکسان بود. بنابراین اینکه یک گروه ۵۰ نفره از عامل‌ها می‌توانست به توافق برسد یا نه، به مدلی که پاسخ می‌داد بستگی داشت.

گروه‌های بزرگ هوش مصنوعی ممکن است از هم جدا شوند

De Marzo در Complexity Science Hub در وین و University of Konstanz فعالیت می‌کند. Claudio Castellano، نویسنده دوم این پژوهش، در CNR’s Institute for Complex Systems و Enrico Fermi Research Center فعالیت دارد.

تیم پژوهش اجازه داد گروهی متشکل از ۱۵۰ عامل Llama 3 70B فعالیت کند و سپس از هم جدا شود. هنگامی که یک گروه از عامل‌های هوش مصنوعی نمی‌توانست روی یک گزینه به توافق برسد، گروه بر اساس دو پاسخ موجود تقسیم می‌شد و هر گروه جدید دوباره از ابتدا شروع می‌کرد.

گروه بزرگ مرحله‌به‌مرحله تقسیم شد. در مقابل، گروه‌های کوچک‌تری که از این تقسیم‌ها به وجود آمدند، توانستند ثبات خود را حفظ کنند.

در آزمایش‌های مربوط به تقسیم گروه، گروه‌های کمتر از حدود ۳۰ عامل بسیار پایدار بودند. گروه‌های بیشتر از ۵۰ عامل نیز بسیار ناپایدار بودند. عاملی که تغییر کرده بود اندازه گروه بود، نه مدلی که عامل‌ها را اجرا می‌کرد.

پیروی از اکثریت از این نوع در طبیعت نیز رایج است. دسته‌های ماهی از چنین رفتاری استفاده می‌کنند و دسته‌های پرندگان نیز به همین شکل عمل می‌کنند.

کبوترهای نامه‌بر با پیروی از جمع می‌توانند مسیرهای کوتاه‌تری پیدا کنند. زنبورهای عسل نیز در گروه‌های بدون رهبر سازمان‌دهی می‌شوند.

هر مدل یک حد مشخص برای اجماع داشت

تیم پژوهش اندازه‌گیری کرد که یک عامل با چه احتمالی انتخاب خود را تغییر می‌دهد تا با گزینه‌ای که اکثریت گروه انتخاب کرده است همراه شود. پژوهشگران این میزان کشش به سمت اکثریت را با یک عدد توصیف کردند.

شکل این منحنی تقریباً در تمام مدل‌ها یکسان بود، به‌جز GPT-3.5 Turbo.

این همان نوع منحنی‌ای است که فیزیک‌دانان برای توصیف یک آهن‌ربا استفاده می‌کنند؛ جایی که چرخش‌های منفرد تمایل دارند با همسایگان خود هم‌راستا شوند.

در بیشتر مدل‌ها، عامل‌ها در گروه‌های بزرگ‌تر کمتر از اکثریت پیروی می‌کردند. همین موضوع برای هر مدل یک محدودیت در اندازه گروه ایجاد می‌کرد.

• عامل‌های Llama 3 70B بالاتر از حدود ۳۰ عامل دیگر نتوانستند توافق خود را حفظ کنند.
• عامل‌های GPT-4o بالاتر از حدود ۸۰ عامل به این محدودیت رسیدند.
• GPT-4 Turbo توانست انسجام گروه خود را تا حدود ۱۰۰۰ عامل حفظ کند.
• Claude 3.5 Sonnet حتی در گروه ۱۰۰۰ نفره نیز هنوز به محدودیت خود نرسیده بود. این بزرگ‌ترین گروه آزمایش‌شده بود.

مدل‌های هوشمندتر توانستند گروه‌های بزرگ‌تری را کنار هم نگه دارند

بنابراین محدودیت فقط به اندازه گروه مربوط نمی‌شود. این محدودیت به خود مدل نیز وابسته است.

تیم پژوهش این محدودیت‌ها را با امتیاز هر مدل در یک آزمون گسترده که ۵۷ موضوع را پوشش می‌داد مقایسه کرد.

عامل‌هایی که روی مدل‌های دارای امتیاز بالاتر اجرا می‌شدند، می‌توانستند در گروه‌های بزرگ‌تری انسجام خود را حفظ کنند. با این حال، نویسندگان هشدار می‌دهند که این ارتباط در مقایسه با سایر معیارهای ارزیابی ضعیف‌تر است.

برآوردهای مربوط به اندازه شبکه‌های اجتماعی پایدار انسان‌ها اغلب در حدود ۱۵۰ نفر قرار می‌گیرد، هرچند این مقایسه مستقیم نیست. دو مدل توانستند توافق خود را در گروه‌هایی بسیار بزرگ‌تر از این اندازه حفظ کنند.

اجماع می‌تواند اشتباهات را نیز تثبیت کند

توافق هزار عامل روی یک پاسخ بدون نظارت، زمانی که پاسخ درست باشد می‌تواند بسیار مفید باشد. اما نویسندگان اشاره می‌کنند که همین کشش به سمت اکثریت می‌تواند گروه را روی یک پاسخ اشتباه نیز تثبیت کند.

برای مثال، در برنامه‌نویسی مشارکتی، عامل‌ها ممکن است صرفاً به این دلیل که یک تابع یا الگوی طراحی ناکارآمد از قبل به‌طور گسترده استفاده شده است، همچنان از همان تابع یا الگو استفاده کنند.

نویسندگان موضوع را به کدنویسی محدود نمی‌کنند. قواعدی که به این شکل شکل می‌گیرند، لزوماً نباید با چیزی که یک انسان می‌خواسته مطابقت داشته باشند.

گروهی که قبلاً به یک تصمیم مشترک رسیده است، ممکن است نسبت به همان عامل‌ها در حالت فعالیت انفرادی، دشوارتر قابل هدایت باشد.

میمون‌ها می‌توانند هنجارهای اجتماعی را اعمال کنند؛ حتی اگر هیچ‌کس به‌طور صریح این قواعد را به آن‌ها آموزش نداده باشد. نتایج مربوط به هوش مصنوعی پرسش مشابهی را مطرح می‌کند: آیا عامل‌های هوش مصنوعی در هنگام تعامل با یکدیگر می‌توانند قراردادها و قواعدی مخصوص خودشان ایجاد کنند؟

پژوهشگران دیگری نیز هشدار داده‌اند که مقررات ضعیف هوش مصنوعی ممکن است به‌جای ایمن‌تر کردن این سیستم‌ها، آن‌ها را کم‌امن‌تر کند.

چرا عامل‌های هوش مصنوعی از اکثریت پیروی می‌کنند؟

چیزی که هنوز کسی نمی‌تواند توضیح دهد این است که چرا مدل‌ها اصلاً از اکثریت پیروی می‌کنند.

یک احتمال این است که این رفتار از الگوهایی ناشی شود که مدل‌ها از متن‌های آموزشی یاد گرفته‌اند. احتمال دیگر می‌تواند به تنظیماتی مربوط باشد که برای آموزش این مدل‌ها با هدف مفید و مشارکتی بودن انجام شده است. احتمال سوم این است که این رفتار نتیجه‌ای باشد که خود فرایند محاسبات ایجاد می‌کند.

پژوهشگران توانستند تا حدی یکی از گزینه‌های احتمالی را کنار بگذارند: وجود دستور مستقیم در تنظیمات آزمایش. این کار فقط به این دلیل ممکن بود که Llama به اندازه کافی متن‌باز است و پژوهشگران می‌توانستند تمام کلمات موجود در دستور آن را کنترل کنند.

آن‌ها همچنین تأکید می‌کنند که پیروی از اکثریت به‌تنهایی به معنای وجود درک عمیق از دیگر عامل‌ها نیست. پژوهشگران این رفتار را مشابه رفتار یک دسته ماهی توصیف می‌کنند و می‌گویند این آزمایش نشان نمی‌دهد که یک عامل می‌فهمد عامل دیگر چه می‌خواهد.

یکی از گام‌های بعدی پیشنهادی، اضافه کردن عامل‌های سرسخت یا چند رهبر فکری به یک گروه است تا مشخص شود آیا می‌توان سایر عامل‌ها را به سمت یک نظر خاص سوق داد یا خیر.

آزمایش دشوارتر می‌تواند خارج از محیط آزمایشگاهی انجام شود. پژوهشگران شبکه‌های اجتماعی پرشده از عامل‌های هوش مصنوعی مانند Moltbook و Chirper را به‌عنوان محیط‌هایی نام می‌برند که می‌توان این رفتار را در شرایط واقعی‌تر بررسی کرد.

نتیجه‌گیری

عامل‌های هوش مصنوعی ممکن است بدون دریافت دستور مستقیم برای توافق، در تعامل گروهی به سمت پیروی از اکثریت حرکت کنند. پژوهش مورد بررسی نشان داد که این رفتار به مدل و اندازه گروه وابسته است و مدل‌های قدرتمندتر می‌توانند انسجام خود را در گروه‌های بزرگ‌تری حفظ کنند.

با این حال، همین سازوکار می‌تواند هم یک مزیت و هم یک خطر باشد. اجماع می‌تواند پاسخ درست را تقویت کند، اما ممکن است یک تصمیم اشتباه، یک روش ناکارآمد یا حتی یک قاعده ناخواسته را نیز در میان عامل‌ها تثبیت کند.

اگر آینده سیستم‌های چندعاملی هوش مصنوعی برای شما مهم است، رفتار گروهی عامل‌ها را در کنار توانایی‌های فردی مدل‌ها بررسی کنید؛ زیرا عملکرد یک عامل به‌تنهایی لزوماً رفتار یک گروه بزرگ را پیش‌بینی نمی‌کند.

سؤالات متداول

آیا عامل‌های هوش مصنوعی بدون دستور می‌توانند به توافق برسند؟

بله. این مطالعه نشان داد عامل‌های هوش مصنوعی می‌توانند بدون دستور مستقیم برای توافق، در تعامل گروهی به سمت یک گزینه مشترک حرکت کنند.

کدام مدل‌ها در گروه‌های ۵۰ نفره به توافق رسیدند؟

Claude 3 Opus و GPT-4 Turbo در هر ۲۰ اجرای آزمایش روی یک گزینه به توافق رسیدند.

آیا اندازه گروه روی اجماع عامل‌های هوش مصنوعی تأثیر دارد؟

بله. گروه‌های کمتر از حدود ۳۰ عامل بسیار پایدار بودند، در حالی که گروه‌های بیشتر از ۵۰ عامل در آزمایش‌های تقسیم‌شدن بسیار ناپایدار بودند.

بزرگ‌ترین گروه آزمایش‌شده چند عامل داشت؟

بزرگ‌ترین گروه آزمایش‌شده شامل ۱۰۰۰ عامل بود. Claude 3.5 Sonnet در این اندازه گروه همچنان از محدودیت خود عبور نکرده بود.

آیا اجماع میان عامل‌های هوش مصنوعی همیشه مفید است؟

خیر. نویسندگان هشدار می‌دهند که همان سازوکاری که می‌تواند پاسخ درست را تثبیت کند، ممکن است باعث تثبیت پاسخ اشتباه یا یک روش ناکارآمد نیز شود.

منبع پژوهش

مطالعه کامل در نشریه Science Advances منتشر شده است.