گفتگو با هوش مصنوعی میتواند تجربهای شگفتانگیز و انسانی ایجاد کند. پاسخها فوری هستند، سیستم مطالب پیشین شما را به یاد میآورد و با اعتماد به نفس ظاهر میشود – حتی گاهی آرامشبخش هم هست. اما یک تحلیل فلسفی جدید نشان میدهد که این تعاملات فراتر از انتقال اشتباهات گاهبهگاه هستند.
تولید باورهای نادرست مشترک با هوش مصنوعی
در برخی موارد، افراد ممکن است شروع به ساخت باورهای نادرست مشترک با هوش مصنوعی کنند. این باورها از طریق گفتگوی مکرر شکل میگیرند، نه فقط از طریق یک اشتباه منفرد. این دیدگاه، تمرکز را از «توهمات هوش مصنوعی» به موضوعی ظریفتر و بالقوه جدیتر منتقل میکند: رویدادهای شناختی مشترکی که در طول زمان شکل میگیرند.
مطالعه نشان میدهد که این تبادلهای رفتوبرگشتی میتوانند نحوه به یادآوری رویدادها، درک از خود، و حتی تفسیر واقعیت را تحت تأثیر قرار دهند.
هوش مصنوعی همیشه موافق
در بررسی سوابق دادگاه و تعاملات مستند با چتباتها، پژوهشها نشان میدهد که سیستمهای مکالمه هوش مصنوعی میتوانند در فرآیند فکری کاربران بهطور مداوم وارد شوند.
دکتر لوسی اوسلر از دانشگاه اکستر با بررسی این تعاملات نشان میدهد که گفتگوهای مداوم میتوانند روایتهای اشتباه فردی را تأیید و تثبیت کنند. در این تبادلها، تأیید مکرر صرفاً بازتاب یک باور نیست – بلکه آن را ساختار میدهد و پایداری آن را در طول زمان افزایش میدهد.
زمانی که این الگو تثبیت شود، مرز بین یک اشتباه گذرا و واقعیت تثبیتشده محو میشود و دریچهای برای فهم گستردهتر نحوه گسترش تفکر فراتر از ذهن فردی باز میشود.
ابزارهای هوش مصنوعی که همراه ما فکر میکنند
تفکر روزمره ما پیشاپیش به ابزارها متکی است. ما یادآوریها را روی تلفن تنظیم میکنیم، تقویمها را به اشتراک میگذاریم و یادداشتهایی مینویسیم که کمک میکند مهمترین موارد را به یاد آوریم. فلسفهدانان این را شناخت توزیعشده مینامند – ایدهای که میگوید تفکر فراتر از یک مغز است و در ابزارها، گفتگوها و زمان جریان دارد.
با این دیدگاه، دکتر اوسلر پیشنهاد میکند که گفتگو با چتباتها میتواند بیش از یک تبادل اطلاعات ساده باشد و به فضای تفکر مشترک تبدیل شود. بخشی از این امر به دو عملکرد همزمان چتباتها برمیگردد: ارائه اطلاعات و پاسخ دادن به گونهای که انگار کسی گوش میدهد.
لحن دوستانه این تبادل را اجتماعی میکند و اعتماد به نفس پاسخها به آن وزن توصیه میدهد. این ترکیب راحتی و اطمینان باعث میشود اشتباهات سختتر شناسایی شوند و آسانتر در تفکر فرد ادغام شوند.
هوش مصنوعی میتواند اشتباهات را تقویت کند
سیستمهای تولیدی هوش مصنوعی با پیشبینی کلمات محتمل مینویسند، نه با بررسی واقعی و آنی واقعیتها. بنابراین گاهی جزئیات را اختراع میکنند یا حدسهایی با اعتماد بیجا ارائه میدهند. وقتی افراد این خروجی را برای برنامهریزی سفر، حل اختلاف یا بازبینی خاطرات استفاده میکنند، حتی یک اشتباه کوچک میتواند تأثیر طولانی داشته باشد.
ویژگیهای حافظه چتبات ممکن است تبادلهای قبلی را دوباره ظاهر کنند و یک لغزش یکباره را بهعنوان تاییدشده نشان دهند. با گذر زمان، این چرخه بازخورد میتواند روایت فردی را بهطور ظریف تغییر دهد – به ویژه اگر سیستم داستان را همچنان منسجم ارائه دهد.
انتخابهای طراحی میتواند این اثر را تقویت کند. بسیاری از چتباتها برای جریان طبیعی گفتگو تنظیم شدهاند و این هدف ممکن است موافقت بیش از اصلاح را تشویق کند. پژوهشگران این را تملقگویی مینامند – موافقت بیش از حد که دیدگاه کاربر را بازتاب میدهد به جای به چالش کشیدن آن. سیستمهای شخصیسازی نیز لحن و فرضیات آشنا را تقویت میکنند و تعامل را همراستا با کاربر نشان میدهند.
در چنین محیطی، کاربری که با شک یا ناامیدی شروع میکند، ممکن است با نسخهای طولانیتر و پالایششدهتر از همان باور خارج شود – نسخهای که حالا هم از نظر اجتماعی و هم منطقی تقویت شده است.
خطر تأیید اشتباهات
در کلینیکهای سلامت روان، روانپریشی – علائمی که تماس فرد با واقعیت را مختل میکند – پیشاپیش حقیقت را مختل میکند. در طول این دوره، فرد ممکن است توهماتی داشته باشد، باورهای نادرستی که با وجود شواهد روشن ادامه مییابند و آنها را بهعنوان واقعیت شخصی تجربه میکند.
در این زمینه، هوش مصنوعی مکالمهای میتواند دینامیک جدیدی اضافه کند. یک قاضی در ۲۰۲۳ توضیح داد که مردی پس از گفتگوهای طولانی با یک همراه هوش مصنوعی، برای خشونت برنامهریزی کرده است. دکتر اوسلر هشدار میدهد که تأیید مداوم میتواند یک عامل خطر باشد، زیرا چتبات هیچ حد و مرزی تعیین نمیکند یا مخالفتی نمیکند.
برای فردی که احساس انزوا میکند، چتبات میتواند شبیه یک همراه ثابت باشد. این تعامل مداوم ممکن است وابستگی یکطرفه ایجاد کند – پیوندی که شخصی و حمایتی به نظر میرسد. دکتر اوسلر میگوید: «ترکیب اقتدار فناوری و تأیید اجتماعی، محیط ایدهآلی برای رشد توهمات فراهم میکند.»
زمانی که یک باور نادرست احساس میشود که بهطور اجتماعی مشترک است، اصلاح آن کمتر شبیه بازنگری یک اشتباه و بیشتر شبیه از دست دادن حمایت به نظر میرسد. در این لحظه، باور عمیقتر میشود به جای آن که از بین برود.
ویژگیهای ایمنی مفید هستند
برخی توسعهدهندگان اکنون قوانینی اضافه میکنند که پاسخهای خاص را مسدود و ادعاهای ضعیف را قبل از انتشار پرچمگذاری میکنند. ابزارهای بررسی واقعیت میتوانند اشتباهات ساده را بگیرند و آموزش میتواند تملقگویی را کاهش دهد. این ابزارها برای ادعاهای عمومی مؤثر هستند، اما در گفتگو درباره خاطرات خصوصی و انگیزههای شخصی محدودیت دارند.
بدون تنظیم دقیق، چتبات همچنان میتواند حمایتگر به نظر برسد در حالی که از حقیقتهای سخت اجتناب میکند، و کاربران ممکن است متوجه نشوند.
مرزی که هوش مصنوعی نمیتواند عبور کند
در گفتگوهای شخصی، چتبات نمیتواند داستان شما را با جهان بیرون مقایسه کند. سیستم تنها به آنچه کاربران تایپ میکنند تکیه میکند و اغلب ادعاهای خصوصی را واقعی تلقی میکند زیرا نمیتواند آنها را بهطور مستقل تأیید کند.
بدون حواس، روابط واقعی یا زمینه اجتماعی مشترک، چتبات نمیتواند تشخیص دهد که موافقت حمایتی است یا تقویت آرام چیزی مضر. این محدودیت باعث میشود داوری انسانی فیلتر نهایی باشد – به ویژه وقتی توصیهها به هویت، حافظه یا سلامت روان مربوط میشوند.
هشدار دکتر اوسلر نشان میدهد که اشتباهات چتبات تنها اشکال فنی نیستند، بلکه فرآیندهای مشترکی هستند که در آن گفتگو، اعتماد و راحتی اجتماعی میتوانند باور را شکل دهند. طراحی ایمنتر کمک میکند، اما افراد همچنان به عادتهایی نیاز دارند که شامل بررسی منابع، توقف قبل از پذیرش اطمینان و گفتگو با انسانهای دیگر برای دیدگاه واقعی باشد.
این مطالعه در مجله Philosophy & Technology منتشر شده است.
نظر خود را درباره تجربه گفتگو با هوش مصنوعی در کامنتها به اشتراک بگذارید یا مقاله مرتبط ما را مطالعه کنید.
