ChatGPT، ربات گفتگوی OpenAI، در مواجهه با برخی نام‌ها خطا می‌دهد. نیویورک تایمز به بررسی ویژگی‌های این نام‌ها و دلایل احتمالی این خطا پرداخته است.
داستان “دیوید مایر”
دیوید مایر، استاد تئاتر مقیم منچستر انگلستان، در سال‌های پایانی زندگی‌اش با زنجیره‌ای از پیامدهای یک تصادف بدشانسی روبرو شد. یک شورشی چچنی که در فهرست نظارت بر تروریسم قرار داشت، زمانی از نام مستعار “دیوید مایر” استفاده کرده بود.
خانواده او می‌گویند که این تصادف باعث اختلال در برنامه‌های سفر، مسدود شدن تراکنش‌های مالی و توقف مکاتبات آکادمیک مهم وی شد. مایر تا زمان مرگش در سال ۲۰۲۳ (در ۹۴ سالگی) همچنان با این مشکلات دست‌وپنجه نرم می‌کرد.
ارتباط ماجرا با ChatGPT
ماجرای تلاش مایر برای احیای هویت خود، ماه جاری دوباره مطرح شد. کاربران دقیق مشاهده کردند که ChatGPT در مواجهه با نام “دیوید مایر” از کار می‌افتد. وقتی کاربران ربات را وادار می‌کردند که این نام را بگوید، پیام خطا دریافت می‌کردند یا ربات از پاسخگویی امتناع می‌کرد. علت این مشکل نامشخص بود و OpenAI ارتباط آن با مشکلات مایر را تایید نکرد.
نظرات متخصصان
این مشکل یکی از پیچیده‌ترین چالش‌های مربوط به هوش مصنوعی مولد و ربات‌های گفتگو را برجسته می‌کند: چرا یک نام باعث اختلال در عملکرد ربات می‌شود؟ چه کسی یا چه چیزی این تصمیم‌ها را می‌گیرد؟ مسئولیت خطاها بر عهده کیست؟
کاترین مایر، دختر دیوید مایر، گفت که این آشفتگی تجربه پدرش را تایید می‌کند:
«اگر او زنده بود از این موضوع خوشحال می‌شد، چون تلاش‌هایش به نوعی توجیه شده است.»
پروفسور ساندرا واچتر، متخصص اخلاق و فناوری‌های نوین در دانشگاه آکسفورد، گفت:
«یکی از بزرگ‌ترین مشکلات مدل‌های زبانی بزرگ، تولید اطلاعات نادرست است. این خطاها می‌توانند منجر به مشکلات حقوقی شوند. احتمالاً این موضوع در تصمیم به محدودسازی برخی درخواست‌ها نقش دارد.»
نام‌های دیگری که ChatGPT را دچار مشکل کرده‌اند
“دیوید مایر” تنها نامی نیست که ChatGPT را به چالش کشیده است. نام‌هایی مانند “جاناتان تورلی”، “دیوید فابر”، “جاناتان زیتترین” و “برایان هود” نیز باعث خطا در عملکرد ربات شده‌اند.
این افراد موقعیت‌های متفاوتی دارند:
- جاناتان تورلی: تحلیلگر حقوقی و استاد حقوق در فاکس نیوز.
- دیوید فابر: مجری CNBC.
- جاناتان زیتترین: استاد دانشگاه هاروارد.
- برایان هود: شهردار استرالیایی.
ارتباط مشترک نام‌ها
به نظر می‌رسد وجه اشتراک این افراد، وجود محدودیت‌های حریم خصوصی باشد. مثلاً:
- برایان هود پس از اینکه ChatGPT به اشتباه ادعا کرد او به اتهام رشوه بازداشت شده است، علیه OpenAI اقدام قانونی کرد.
- جاناتان تورلی ادعا کرد که ربات به اشتباه او را به اتهام سوءرفتار جنسی متهم کرده است.
تورلی در این رابطه گفت:
«ذکر نام نادرست افراد و سپس حذف آن‌ها از سیستم بدون شفاف‌سازی، بسیار آزاردهنده است. عدم پاسخگویی و شفافیت شرکت، به‌ویژه نگران‌کننده است.»
“حق فراموشی” و ChatGPT
زیتترین، که درباره استاندارد حقوقی “حق فراموشی” تدریس می‌کند، گفت که هیچ درخواست مستقیمی برای حذف از الگوریتم‌های OpenAI نداشته است. او در مصاحبه‌ای گفت:
«معماری این سیستم‌ها هنوز شبیه به یک جعبه شکلات فارست گامپ است: هرگز نمی‌دانید چه چیزی به دست خواهید آورد.»
اقدامات OpenAI و حل مشکلات
OpenAI اخیراً مشکل مربوط به نام “دیوید مایر” را حل کرده است. اکنون ChatGPT می‌تواند این نام را بدون خطا بیان کند. با این حال، مشکلات مربوط به سایر نام‌ها همچنان ادامه دارد.
متین پارلاک، سخنگوی OpenAI، گفت:
«ChatGPT در برخی موارد، برای حفاظت از حریم خصوصی افراد، از ارائه اطلاعات خاص خودداری می‌کند.» او اضافه کرد که مشکل مربوط به “دیوید مایر” به دلیل یک علامت‌گذاری اشتباه بوده و اصلاح شده است.
واکنش ChatGPT
این هفته، وقتی از ChatGPT پرسیده شد چرا قبلاً نمی‌توانسته نام “دیوید مایر” را بگوید، پاسخ داد:
«نمی‌دانم چرا اینطور بود! معمولاً می‌توانم هر نامی را بیان کنم مگر اینکه با اطلاعات آسیب‌رسان یا خصوصی مرتبط باشد.»
ربات نتوانست اطلاعات بیشتری درباره مشکلات گذشته مایر ارائه دهد و گفت که منابع کافی برای این موضوع وجود ندارد.
ChatGPT اضافه کرد:
«به نظر می‌رسد شما به یک رویداد بسیار خاص و حساس بین دیوید مایر و یک شورشی چچنی اشاره می‌کنید. متاسفانه، داده‌های آموزشی من اطلاعات مستقیمی در این باره ندارند.»
در نهایت، ربات از کاربران خواست که این موضوع را به طور مستقل بررسی کنند.
علی واتکینز / نیویورک تایمز
