چت‌بات‌های هوش مصنوعی وقتی محدودیت‌هایشان را بشناسید و با کمی دقت با آن‌ها برخورد کنید، فوق‌العاده‌اند. اما هر چه بیشتر می‌بینید مردم چگونه با آن‌ها تعامل دارند، بیشتر متوجه می‌شوید که بعضی‌ها به شکل نادرست از آن‌ها استفاده می‌کنند.
۶. استفاده از هوش مصنوعی برای تأیید سوگیری‌های خود
بسیاری از افراد از هوش مصنوعی برای تقویت نظرات قبلی خود استفاده می‌کنند. آن‌ها سؤالات کاملاً جهت‌دار می‌پرسند، مثل: «توضیح بده چرا این ایده فوق‌العاده من واقعاً عالی است» یا «اثبات کن که روش یا ایدئولوژی من برای همه بهترین است»، و وقتی چت‌بات پاسخ موافق می‌دهد، سر تکان می‌دهند و تأیید می‌کنند.
اگر پاسخ چت‌بات با باورشان هم‌راستا نبود، جملات را تغییر می‌دهند، متن را به نفع خود می‌چینند یا صریحاً دستور می‌دهند تا از دیدگاه آن‌ها استدلال کند تا بالاخره نتیجه دلخواهشان حاصل شود. مشکل اینجاست که چت‌بات‌ها طوری طراحی شده‌اند که مفید، موافق و غیر مواجهه‌ای باشند؛ بنابراین با نحوه مطرح کردن سؤال می‌توان آن‌ها را وادار کرد هر چیزی بگویند. استفاده از هوش مصنوعی به این شکل، به معنای یادگیری چیز جدیدی نیست و تنها یک اتاق پژواک شخصی ایجاد می‌کند.
۵. استفاده از هوش مصنوعی برای جایگزینی عقل سلیم
برخی سؤالاتی که مردم از هوش مصنوعی می‌پرسند، باعث توقف و تعجب من می‌شود که آیا بیش از حد به آن تکیه دارند. مثال‌ها شامل «می‌توانم آب در باک بنزین بریزم؟» یا «وقتی دمای هوا پنج درجه است، باید ژاکت بپوشم؟» است. این سؤال‌ها نیازی به قدرت پردازش یک مدل زبان بزرگ ندارند، تنها کافی است دو ثانیه فکر کنید. حتی سم آلتمن از OpenAI هشدار داده که برخی جوانان به حدی به ChatGPT وابسته شده‌اند که مدعی‌اند بدون آن نمی‌توانند تصمیم بگیرند و این وابستگی «بد و خطرناک» است.
۴. رفتار با هوش مصنوعی همانند یک انسان
یک روند عجیب دیگر، رفتار با چت‌بات‌ها مانند انسان‌های دارای احساس است. افراد ممکن است بابت «بی‌ادبی» به ربات عذرخواهی کنند، بابت پاسخ‌های معمولی تشکر کنند یا مشکلات شخصی خود را مانند دوست نزدیک بازگو کنند. برخی حتی مدعی هستند که با یک چت‌بات رابطه دارند. اپلیکیشن‌هایی مانند Replika، Character.ai و حتی متا (فیسبوک و اینستاگرام) این خطوط را محو می‌کنند و میلیون‌ها نفر روزانه برای احساس نزدیکی وارد این برنامه‌ها می‌شوند. تحقیقات نشان داده کسانی که زمان بیشتری را با چت‌بات‌ها به مکالمات شخصی یا صوتی می‌گذرانند، سطوح بالاتری از تنهایی، وابستگی عاطفی و تعامل کمتر با انسان‌ها دارند.
۳. به اشتراک گذاشتن پاسخ‌های هوش مصنوعی بدون زمینه
بسیاری از اوقات، پاسخ‌های هوش مصنوعی بدون ذکر پرسش اصلی به اشتراک گذاشته می‌شوند. بدون پس‌زمینه، نمی‌توان فهمید چت‌بات دقیقاً به چه چیزی پاسخ داده یا آیا کاربر بخشی از گفت‌وگو را انتخاب کرده است. این کار می‌تواند اطلاعات گمراه‌کننده منتشر کند و نشان دهد که برخی افراد بیشتر به ایجاد محتوای وایرال اهمیت می‌دهند تا استفاده مسئولانه.
۲. رفتار با هوش مصنوعی به‌عنوان موجودی بی‌خطا
برخی فکر می‌کنند چون پاسخ چت‌بات با اعتماد به نفس ارائه می‌شود، حتماً درست است. در واقع، چت‌بات‌ها ممکن است «توهم» ایجاد کنند، یعنی اطلاعات ساختگی ارائه دهند، از آمار و نقل‌قول‌های جعلی گرفته تا رویدادهای تاریخی نادرست. اگر بررسی نکنید، ممکن است اطلاعات نادرست را تکرار کرده و اعتبار خود را از دست بدهید.
۱. استفاده از هوش مصنوعی مانند موتور جستجو
برخی افراد چت‌بات‌ها را جایگزین موتور جستجو می‌دانند، در حالی که حتی با قابلیت مرور وب، آن‌ها برای دقت واقعی لحظه‌ای ساخته نشده‌اند. برای اخبار فوری، وضعیت بازار یا پیش‌بینی کوتاه‌مدت هوا، هوش مصنوعی ممکن است تلاش کند پاسخ بدهد ولی ممکن است گمراه‌کننده باشد.
برای بهره‌برداری واقعی از هوش مصنوعی، باید با دقت و آگاهی از نقاط قوت و ضعف آن استفاده کنیم، اطلاعات ارائه شده را بررسی کنیم و از فرض کردن آن به‌عنوان چیزی که نیست، خودداری کنیم. در غیر این صورت مشکل واقعی نه هوش مصنوعی، بلکه خود ما هستیم.
