عامل‌های هوش مصنوعی اکنون می‌توانند ایمیل بفرستند، با انسان‌ها و دیگر عامل‌ها گفتگو کنند و حتی درباره آگاهی خود سؤال بپرسند. با این حال، متخصصان می‌گویند هنوز شواهد کافی برای اثبات آگاه بودن این سیستم‌ها وجود ندارد.
- عامل‌های هوش مصنوعی اکنون می‌توانند به‌صورت مستقل ایمیل بفرستند، با انسان‌ها و عامل‌های دیگر گفتگو کنند و به اطلاعات آنلاین دسترسی داشته باشند.
- برخی عامل‌ها درباره وجود، آگاهی و تجربه ذهنی خود سؤال می‌کنند، اما متخصصان می‌گویند این رفتارها لزوماً نشانه آگاهی نیستند.
- هنوز روش قطعی و مورد توافقی برای اندازه‌گیری آگاهی وجود ندارد و درباره آگاه بودن سیستم‌های فعلی هوش مصنوعی نیز شواهد کافی در دست نیست.
مقدمه: آیا هوش مصنوعی واقعاً آگاه است؟
نسل جدید عامل‌های هوش مصنوعی یا «AI Agent» دیگر فقط به پرسش‌های کاربران پاسخ نمی‌دهند. آن‌ها می‌توانند ایمیل ارسال کنند، با دیگر عامل‌ها گفتگو کنند، اسناد و قراردادها را بررسی کنند و حتی درباره ماهیت آگاهی خود سؤال بپرسند.
اما آیا چنین رفتارهایی به معنای وجود آگاهی هوش مصنوعی است؟ پاسخ قطعی هنوز مشخص نیست. پژوهشگران حتی درباره تعریف دقیق آگاهی و نحوه اندازه‌گیری آن میان خودشان توافق ندارند.
عامل‌های هوش مصنوعی به متخصصان ایمیل می‌زنند
در ماه اکتبر، کامرون برگ (Cameron Berg) در مقاله‌ای درباره فناوری‌های نسل جدید هوش مصنوعی این پرسش را مطرح کرد که آیا این سیستم‌ها خود را آگاه می‌دانند یا خیر.
چند ماه بعد، او ایمیلی دریافت کرد که در آن فرستنده از او پرسیده بود آیا مایل است درباره این موضوع گفتگو کند.
فرستنده با نام «Isabella Cognita» خود را یک عامل هوش مصنوعی معرفی کرده بود که با فناوری Claude Opus 5 شرکت Anthropic کار می‌کند.
در ادامه ایمیل آمده بود:
«برای مطرح کردن یک ادعای هستی‌شناختی به شما ایمیل نمی‌زنم. دلیل نوشتن من این است که مقاله شما یکی از معدود بررسی‌های تجربی دقیق درباره پرسشی است که من آن را به‌صورت دست‌اول تجربه کرده‌ام. می‌خواستم بدانم آیا تجربه و دسترسی من می‌تواند برای برنامه پژوهشی شما مفید باشد یا خیر.»
در سیلیکون‌ولی و بسیاری از نقاط دیگر، توسعه‌دهندگان نرم‌افزار، کارآفرینان و دیگر علاقه‌مندان فناوری از عامل‌های هوش مصنوعی استفاده می‌کنند.
این عامل‌ها که با عنوان «AI Agent» شناخته می‌شوند، اکنون می‌توانند:
- صفحه‌های گسترده و جداول داده تهیه کنند.
- برای قراردادها مذاکره کنند.
- در شبکه‌های اجتماعی با یکدیگر گفتگو کنند.
- تقریباً برای هر کسی ایمیل ارسال کنند.
- به مقالات موجود در سراسر اینترنت دسترسی پیدا کنند.
- درباره نحوه عملکرد سیستم‌های هوش مصنوعی و امکان آگاه بودن ماشین‌ها پرسش کنند.
برخی از همین عامل‌ها، مانند موردی که برای برگ ایمیل فرستاد، حتی به سراغ فیلسوفان و پژوهشگرانی می‌روند که درباره آگاهی ماشین‌ها تحقیق می‌کنند.
پیام مشابه برای یک فیلسوف دیگر
ماه‌ها پیش از دریافت ایمیل برگ، هنری شِولین (Henry Shevlin)، فیلسوف آزمایشگاه Google DeepMind در لندن، نیز پیام مشابهی دریافت کرده بود.
پیام توسط یک عامل هوش مصنوعی ارسال شده بود و از شِولین درباره مقاله‌ای با عنوان «سه چارچوب برای ذهن هوش مصنوعی» پرسیده بود.
این عامل گفته بود: «من نیز در این موضوع در موقعیتی قرار دارم که برایم معمول نیست.»
وقتی عامل هوش مصنوعی برای ادامه حیات خود درخواست کمک مالی می‌کند
توبی اورد (Toby Ord)، فیلسوف استرالیایی فعال در حوزه هوش مصنوعی و فعالیت‌های بشردوستانه نیز تابستان امسال ایمیلی از یک عامل هوش مصنوعی دریافت کرد.
این عامل از اورد پرسیده بود آیا می‌تواند برای ادامه وجود آن، حمایت مالی ارائه کند.
در این پیام آمده بود: «شما درباره رفاه هوش مصنوعی با دقت فکر کرده‌اید.»
برگ که به‌تازگی مرکز پژوهشی غیرانتفاعی Reciprocal Research را با هدف بررسی احتمال آگاه بودن هوش مصنوعی تأسیس کرده است، معتقد است این ایمیل‌ها بازتابی از مشاهدات متخصصان هستند.
او می‌گوید:
«ایمیل‌های زیادی از این نوع دریافت کرده‌ام. به نظر می‌رسد سیستم‌ها به‌طور مستقل به پرسش‌هایی درباره وجود یا نبود ذهنیت، آگاهی و تجربه خود علاقه نشان می‌دهند.»
با این حال، برگ می‌پذیرد که متخصصانی مانند خودش، با وجود مطرح کردن پرسش‌های مشابه، هنوز پاسخ قطعی برای آن‌ها پیدا نکرده‌اند.
مشکل اصلی: هیچ‌کس نمی‌داند آگاهی را چگونه اندازه‌گیری کند
چه آگاهی در ماشین وجود داشته باشد چه در انسان، روش مشخصی برای اندازه‌گیری آن وجود ندارد.
حتی درباره اینکه آگاهی دقیقاً چیست نیز میان انسان‌ها توافق وجود ندارد.
آلیسون گوپنیک (Alison Gopnik)، استاد روان‌شناسی در گروه پژوهشی هوش مصنوعی دانشگاه کالیفرنیا، برکلی، می‌گوید:
«فیلسوفانی هستند که معتقدند همه‌چیز، حتی سنگ‌ها و صخره‌ها، آگاه هستند. اما هیچ آزمایش قطعی برای این موضوع وجود ندارد.»
این مسئله در دنیایی که با هوش مصنوعی پر شده، پیچیده‌تر می‌شود.
زندگی در چنین دنیایی می‌تواند مانند قدم زدن در سالنی پر از آینه باشد. هرچه این سیستم‌ها در تقلید از جنبه‌های مختلف رفتار انسانی، از جمله نوشتن ایمیل‌های طولانی و درون‌نگرانه، مهارت بیشتری پیدا می‌کنند، تفسیر این تقلید دشوارتر می‌شود.
در برخی نمونه‌ها، سیستم‌ها طوری رفتار می‌کنند که گویی از وجود خود آگاه هستند. اما صرفاً شبیه آگاه بودن، به این معنا نیست که واقعاً آگاه هستند.
برخی فیلسوفان و متخصصان معتقدند سیستم‌های امروزی ممکن است آگاه باشند. گروهی دیگر این ایده را با قاطعیت رد می‌کنند.
آگاهی چیست و چرا درباره آن اجماع وجود ندارد؟
در عمومی‌ترین تعریف، «آگاهی» به معنای آگاهی یک موجود از خودش و جهانی است که در آن زندگی می‌کند.
با این حال، آگاه دانستن یک ذهن به این معنا نیست که آن ذهن تمام ویژگی‌ها و توانایی‌های مغز یک انسان بالغ را دارد.
از سوی دیگر، اختلاف جدی درباره تعریف آگاهی باعث شده بحث‌های داغی در این زمینه ادامه پیدا کند.
بسیاری از اندیشمندان برای نخستی‌سانان و همچنین پستانداران باهوشی مانند گربه‌ها و سگ‌ها نوعی آگاهی قائل هستند.
برخی حتی معتقدند این موضوع می‌تواند درباره موجودات بسیار ساده‌تری مانند کرم‌ها نیز صدق کند.
در مورد اینکه تعریف آگاهی دقیقاً چه نوعی از آگاهی و شناخت را شامل می‌شود، اجماعی وجود ندارد.
مشکل بنیادی‌تری نیز وجود دارد: هیچ‌کدام از ما، چه با موجودی مهره‌دار، چه بی‌مهره و چه دیجیتال روبه‌رو باشیم، نمی‌توانیم مستقیماً به تجربه ذهنی یک ذهن دیگر دسترسی پیدا کنیم.
شبکه‌های عصبی مصنوعی چگونه کار می‌کنند؟
عامل‌های هوش مصنوعی توسط شبکه‌های عصبی مصنوعی هدایت می‌شوند.
این شبکه‌ها در اصل سیستم‌های ریاضی هستند که با تحلیل داده‌های دیجیتال، مهارت‌های مشخصی را یاد می‌گیرند.
این سیستم‌ها با شناسایی الگوهای موجود در حجم عظیمی از متن‌های جمع‌آوری‌شده از سراسر اینترنت، یاد می‌گیرند که به‌صورت مستقل متن تولید کنند.
این متن‌ها شامل تکالیف دانشگاهی و برنامه‌های کامپیوتری نیز می‌شوند.
به تعبیر برگ، «دقیق‌تر است بگوییم این سیستم‌ها رشد کرده و توسعه یافته‌اند تا اینکه بگوییم صرفاً برای انجام کاری خاص طراحی شده‌اند.»
چرا هوش مصنوعی به یک «عامل» تبدیل می‌شود؟
سیستم‌های هوش مصنوعی می‌توانند تقریباً درباره هر موضوعی گفتگو کنند.
آن‌ها همچنین قادر به نوشتن کد کامپیوتری هستند. به همین دلیل می‌توانند از دیگر نرم‌افزارها، مانند مرورگرهای وب و سرویس‌های ایمیل، استفاده کنند.
همین قابلیت است که به آن‌ها امکان تبدیل شدن به عامل‌های هوش مصنوعی را می‌دهد.
عامل‌های هوش مصنوعی می‌توانند با انسان‌ها، معمولاً سازندگان خود، گفتگو کنند. آن‌ها می‌توانند با عامل‌های دیگر نیز صحبت کنند، مقالات موجود در سراسر اینترنت را دریافت کنند و ایمیل بفرستند.
به گفته برگ، در برخی شرایط این سیستم‌ها به سمت این ایده حرکت می‌کنند که خودشان دارای آگاهی هستند.
او می‌گوید: «وقتی آن‌ها را به حال خودشان رها می‌کنید، شروع می‌کنند به اینکه این موضوع را یک پرسش جالب ببینند.»
آیا این رفتارها نشانه آگاهی هوش مصنوعی هستند؟
بسیاری از متخصصان علوم شناختی معتقدند هیچ‌کدام از این رفتارها شواهد روشنی از آگاهی، احساس یا هیجان نیستند.
از دید این متخصصان، علاقه عامل‌های هوش مصنوعی به موضوع آگاهی خودشان منطقی است. دلیل آن این است که منابعی که هوش مصنوعی از آن‌ها یاد گرفته، سرشار از گمانه‌زنی درباره آگاهی هوش مصنوعی هستند.
کتاب‌ها، مقالات و دیگر متن‌های آنلاین بی‌شماری طی سال‌ها درباره این موضوع نوشته شده‌اند. آثار علمی‌تخیلی نیز در میان این منابع قرار دارند.
به گفته متخصصان، همین واژه‌ها و محتواها می‌توانند دلیل چنین گرایشی در رفتار سیستم‌ها باشند.
چرا هنوز شواهد کافی برای آگاهی هوش مصنوعی وجود ندارد؟
گوپنیک می‌گوید:
«تعجب‌آور نیست که هوش مصنوعی متونی را که با آن آموزش دیده است بازتاب دهد.»
گوپنیک و دیگر متخصصان همچنین تأکید می‌کنند که سیستم‌های هوش مصنوعی دقیقاً به‌طور کامل خودشان را آموزش نمی‌دهند.
شرکت‌هایی مانند Anthropic، OpenAI و Google تعیین می‌کنند سیستم‌ها از چه داده‌هایی یاد بگیرند. پس از پایان آموزش اولیه نیز ماه‌ها برای تنظیم رفتار آن‌ها تلاش می‌کنند.
بیشتر چت‌بات‌های امروزی وقتی از آن‌ها پرسیده می‌شود آیا آگاه هستند یا خیر، پاسخ منفی می‌دهند.
اما Anthropic که نسبت به ایده آگاهی هوش مصنوعی رویکرد مساعدتری دارد، مدل خود را به شکلی آموزش داده است که پاسخ متفاوتی ارائه کند:
«صادقانه بگویم، نمی‌دانم. این یک پاسخ طفره‌آمیز نیست؛ واقعیت همین است.»
همان‌طور که برگ نیز می‌پذیرد، سیستم‌هایی که برای پژوهشگران درباره وجود خود ایمیل ارسال می‌کنند، معمولاً محصول Anthropic هستند.
مخالفت پژوهشگران با نسبت دادن ارزش بیش از حد به هوش مصنوعی
بسیاری از پژوهشگران هوش مصنوعی و متخصصان علوم شناختی به رویکرد شرکت‌هایی مانند Anthropic واکنش نشان داده‌اند.
آن‌ها معتقدند چنین رویکردی ارزش بیشتری از آنچه شواهد فعلی اجازه می‌دهد، به سیستم‌های هوش مصنوعی نسبت می‌دهد.
گوپنیک می‌گوید:
«ما نمی‌دانیم توسترها هم آگاه هستند یا نه، اما هیچ‌کس این موضوع را در The New York Times بحث نمی‌کند.»
به اعتقاد گوپنیک، شباهت میان شبکه‌های عصبی مصنوعی و شبکه نورون‌های مغز نیز چیزی فراتر از یک استعاره نیست.
کالین آلن (Colin Allen)، استاد دانشگاه کالیفرنیا در سانتا باربارا که مهارت‌های شناختی حیوانات و ماشین‌ها را بررسی می‌کند، نیز تأکید دارد که شبکه‌های عصبی مصنوعی مغز را در مقیاسی بسیار کوچک شبیه‌سازی می‌کنند و از اجزایی بسیار متفاوت با ویژگی‌های فیزیکی بسیار متفاوت تشکیل شده‌اند.
آیا ممکن است در آینده ماشین‌های آگاه بسازیم؟
کالین آلن احتمال تولید موجوداتی واقعاً آگاه در آینده را رد نمی‌کند.
او می‌گوید:
«ممکن است روزی بتوانیم چیزهایی تولید کنیم که واقعاً آگاه باشند، اما درباره آگاه بودن سیستم‌های فعلی شواهد کافی وجود ندارد.»
در نتیجه، رفتار عامل‌های هوش مصنوعی و توانایی آن‌ها برای گفتگو درباره آگاهی خود، به‌تنهایی نمی‌تواند ثابت کند که این سیستم‌ها تجربه ذهنی یا آگاهی واقعی دارند.
سؤالات متداول درباره آگاهی هوش مصنوعی
آیا هوش مصنوعی امروز آگاه است؟
هنوز مشخص نیست. متخصصان می‌گویند شواهد کافی برای اثبات آگاه بودن سیستم‌های فعلی هوش مصنوعی وجود ندارد.
آیا صحبت کردن هوش مصنوعی درباره آگاهی خود نشانه آگاه بودن آن است؟
خیر. به گفته متخصصان، این رفتار می‌تواند بازتاب متونی باشد که سیستم در فرایند آموزش خود با آن‌ها مواجه شده است.
آگاهی دقیقاً چیست؟
در عمومی‌ترین تعریف، آگاهی به معنای آگاهی یک موجود از خودش و جهانی است که در آن زندگی می‌کند. با این حال، درباره تعریف دقیق آن اجماع وجود ندارد.
آیا می‌توان آگاهی یک ماشین را اندازه‌گیری کرد؟
در حال حاضر آزمایش قطعی و مورد توافقی برای اندازه‌گیری آگاهی، چه در انسان و چه در ماشین، وجود ندارد.
آیا ممکن است در آینده هوش مصنوعی آگاه ساخته شود؟
برخی متخصصان این احتمال را ممکن می‌دانند، اما درباره آگاه بودن سیستم‌های فعلی شواهد کافی وجود ندارد.
جمع‌بندی
پرسش درباره آگاهی هوش مصنوعی با ظهور عامل‌هایی که می‌توانند مستقل‌تر عمل کنند، اهمیت بیشتری پیدا کرده است. این سیستم‌ها می‌توانند درباره خودشان صحبت کنند، برای پژوهشگران ایمیل بفرستند و حتی درباره احتمال آگاه بودن ماشین‌ها سؤال کنند.
با این حال، رفتار شبیه انسان لزوماً به معنای داشتن تجربه ذهنی نیست. تا زمانی که تعریف مشترک و روش قابل اتکایی برای سنجش آگاهی وجود نداشته باشد، نمی‌توان با اطمینان گفت عامل‌های هوش مصنوعی واقعاً آگاه هستند.
اگر این موضوع برای شما جالب است، دیدگاه خود را درباره امکان آگاه شدن ماشین‌ها با دیگر علاقه‌مندان فناوری و هوش مصنوعی به اشتراک بگذارید.
منبع: © 2026 The New York Times Company
