- میانگین دقت افراد در تشخیص چهره‌های واقعی تنها 58.4 درصد بود.
- چهره‌های تولیدشده با مدل Diffusion بالاترین امتیاز اعتماد را کسب کردند.
- پژوهشگران درباره افزایش خطر جعل هویت، اطلاعات نادرست، کلاهبرداری اینترنتی هشدار داده‌اند.
چهره‌های هوش مصنوعی؛ چرا مردم بیشتر به آن‌ها اعتماد می‌کنند؟
پژوهشی جدید نشان می‌دهد چهره‌های هوش مصنوعی در بسیاری از موارد از تصاویر واقعی انسان‌ها قابل‌اعتمادتر به نظر می‌رسند. این یافته زنگ خطر تازه‌ای درباره کلاهبرداری‌های اینترنتی، جعل هویت، catfishing، انتشار اطلاعات نادرست و سوءاستفاده از تصاویر ساختگی به صدا درآورده است.
این نتایج در شرایطی منتشر شده که ابزارهای تولید تصویر مبتنی بر هوش مصنوعی تقریباً برای همه کاربران، حتی بدون داشتن دانش فنی، در دسترس هستند. در نتیجه، امکان تولید چهره‌های جعلی و استفاده از آن‌ها برای فریب دیگران دیگر تنها در اختیار متخصصان نیست.
جزئیات پژوهش درباره چهره‌های هوش مصنوعی
این مطالعه به سرپرستی Alexis McGuire و گروهی از پژوهشگران Lancaster University انجام شده است. این نخستین پژوهشی است که میزان اعتماد افراد به چهره‌های تولیدشده توسط جدیدترین فناوری Diffusion را بررسی می‌کند.
فناوری Diffusion نسبت به سامانه‌های قدیمی‌تر تولید تصویر مبتنی بر هوش مصنوعی، پیشرفته‌تر و پیچیده‌تر است.
تشخیص چهره‌های جعلی کار آسانی نیست
انسان‌ها به شکل طبیعی توانایی فوق‌العاده‌ای در تحلیل چهره‌ها دارند. مغز انسان می‌تواند تنها در حدود 100 میلی‌ثانیه درباره یک چهره قضاوت اولیه انجام دهد؛ قابلیتی که طی میلیون‌ها سال تکامل شکل گرفته است.
با این حال، چهره‌های تولیدشده توسط هوش مصنوعی اکنون آن‌قدر واقعی شده‌اند که سامانه‌های جدید می‌توانند حدود یک‌سوم مواقع افراد را فریب دهند تا تصور کنند تصویر کاملاً واقعی است. این موضوع توانایی ذاتی انسان در تشخیص چهره‌های واقعی را تضعیف می‌کند.
آزمایش اول چگونه انجام شد؟
برای بررسی این موضوع، پژوهشگران از 169 شرکت‌کننده خواستند مجموعه‌ای شامل 96 چهره با نژادها، جنسیت‌ها، سنین مختلف را مشاهده کنند.
تصاویر به‌صورت تصادفی نمایش داده شدند، شرکت‌کنندگان باید تشخیص می‌دادند هر تصویر متعلق به یک انسان واقعی است یا توسط هوش مصنوعی ساخته شده است.
نتیجه شگفت‌آور بود؛ میانگین دقت شرکت‌کنندگان تنها 58.4 درصد بود که فقط اندکی بهتر از حدس زدن تصادفی محسوب می‌شود.
نکته جالب اینکه شرکت‌کنندگان تصاویر تولیدشده با مدل Diffusion را نسبت به تصاویر ساخته‌شده توسط فناوری قدیمی‌تر GAN کمتر واقعی ارزیابی کردند؛ این در حالی است که Diffusion از فناوری بسیار پیشرفته‌تری بهره می‌برد.
همین نتیجه نشان داد کیفیت ظاهری تصویر تنها عامل مؤثر بر قضاوت انسان نیست.
چرا چهره‌های هوش مصنوعی اعتماد بیشتری جلب می‌کنند؟
در آزمایش دوم، گروه جدیدی از شرکت‌کنندگان میزان قابل‌اعتماد بودن همان 96 چهره را در مقیاسی از 1 (کاملاً غیرقابل اعتماد) تا 7 (کاملاً قابل اعتماد) ارزیابی کردند.
در این مرحله، موضوع تشخیص واقعی یا جعلی بودن تصویر کنار گذاشته شد و فقط احساس اعتماد افراد اندازه‌گیری شد.
- چهره‌های واقعی انسان: 4.03
- چهره‌های تولیدشده با فناوری GAN: 4.36
- چهره‌های تولیدشده با فناوری Diffusion: 4.70
در واقع، همان چهره‌هایی که در آزمایش اول کمتر واقعی به نظر می‌رسیدند، در آزمایش دوم بیشترین میزان اعتماد را جلب کردند.
Alexis McGuire می‌گوید:
«این یافته یک پارادوکس ایجاد می‌کند و نشان می‌دهد احتمالاً سازوکارهای روان‌شناختی متفاوتی مسئول قضاوت درباره واقعی بودن چهره و قابل‌اعتماد بودن آن هستند.»
به بیان دیگر، فرآیندی که مغز برای تشخیص واقعی بودن یک چهره به کار می‌گیرد، الزاماً همان فرآیندی نیست که درباره امن، دوستانه یا قابل اعتماد بودن آن تصمیم می‌گیرد.
این یافته چگونه به سود کلاهبرداران تمام می‌شود؟
McGuire هشدار می‌دهد:
«پژوهش ما نشان می‌دهد مردم در معرض فریب خوردن توسط تصاویر تولیدشده با هوش مصنوعی قرار دارند.»
«این مدل‌های هوش مصنوعی فضای آنلاین را دموکراتیک کرده‌اند و اکنون هر فردی بدون داشتن مهارت فنی می‌تواند چهره‌های جعلی تولید کند و از آن‌ها برای انواع سوءاستفاده‌ها استفاده کند.»
او بر ضرورت آموزش عمومی درباره سهولت تولید این تصاویر و خطرات ناشی از آن‌ها تأکید می‌کند. از جمله:
- انتشار اطلاعات نادرست
- جعل هویت
- کلاهبرداری اینترنتی
- catfishing
به گفته او، نگرانی‌ها تنها به کلاهبرداری‌های فردی محدود نمی‌شود، بلکه می‌تواند نهادها، سازمان‌ها و حتی زندگی عمومی و نظام‌های دموکراتیک را نیز تحت تأثیر قرار دهد.
«هرچه تصاویر تولیدشده با هوش مصنوعی پیشرفته‌تر و در دسترس‌تر می‌شوند، جامعه بیش از گذشته در معرض چهره‌های ساختگی قرار می‌گیرد؛ چهره‌هایی که اغلب در سناریوهای مخرب و سوءاستفاده‌گرانه استفاده می‌شوند.»
«درک تهدید ناشی از فراگیر شدن هوش مصنوعی مولد و توسعه راهکارهایی برای کاهش آسیب‌های احتمالی به افراد، سازمان‌ها و دموکراسی‌ها اهمیت حیاتی دارد.»
مشکلی که راه‌حل ساده‌ای ندارد
نتایج این پژوهش نشان می‌دهد با پیشرفت بیشتر مدل‌های Diffusion، فاصله میان «قابل‌اعتماد به نظر رسیدن» و «واقعاً قابل اعتماد بودن» چهره‌های هوش مصنوعی ممکن است بیشتر شود.
این شکاف فرصت بزرگی برای کلاهبرداران، عاملان انتشار اطلاعات نادرست، افرادی که اقدام به جعل هویت می‌کنند، فراهم می‌کند.
نگران‌کننده‌تر اینکه اگر نسل‌های آینده هوش مصنوعی بتوانند چهره‌هایی تولید کنند که اعتماد بیشتری جلب کنند، اتکای انسان به حس بصری خود برای تشخیص هویت‌های واقعی در فضای آنلاین روزبه‌روز کم‌اثرتر خواهد شد؛ حتی اگر آن تصاویر الزاماً واقعی‌تر به نظر نرسند.
آیا شما می‌توانید چهره‌های هوش مصنوعی را تشخیص دهید؟
تیم پژوهشی همچنان در حال بررسی تفاوت نحوه پردازش چهره‌های واقعی و تصاویر تولیدشده با هوش مصنوعی توسط انسان است.
علاقه‌مندان می‌توانند در یک نظرسنجی آنلاین ناشناس با عنوان Examining Individual Differences in the Detection of Real and AI-generated Faces شرکت کنند.
شرکت‌کنندگان مجموعه‌ای از چهره‌ها را مشاهده می‌کنند، درباره واقعی یا مصنوعی بودن آن‌ها نظر می‌دهند، میزان اطمینان خود را ثبت می‌کنند، در پایان نیز امتیازی دریافت می‌کنند که نشان می‌دهد تا چه اندازه در تشخیص تصاویر موفق بوده‌اند.
این داده‌ها به گسترش شواهد علمی درباره میزان آسیب‌پذیری قضاوت انسان در برابر تصاویر مصنوعی روزبه‌روز متقاعدکننده‌تر کمک خواهد کرد.
نتایج این پژوهش در نشریه Journal of Vision منتشر شده است.
سؤالات متداول
آیا مردم واقعاً به چهره‌های هوش مصنوعی بیشتر اعتماد می‌کنند؟
بله. بر اساس این پژوهش، میانگین امتیاز اعتماد به چهره‌های تولیدشده با هوش مصنوعی از چهره‌های واقعی بیشتر بوده است.
دقت افراد در تشخیص چهره‌های واقعی چقدر بود؟
میانگین دقت شرکت‌کنندگان 58.4 درصد بود که تنها اندکی بهتر از حدس تصادفی است.
کدام فناوری بیشترین اعتماد را ایجاد کرد؟
چهره‌های تولیدشده توسط مدل‌های Diffusion با میانگین امتیاز 4.70 بیشترین میزان اعتماد را به دست آوردند.
مهم‌ترین نگرانی پژوهشگران چیست؟
افزایش خطر جعل هویت، کلاهبرداری اینترنتی، انتشار اطلاعات نادرست، سوءاستفاده از تصاویر جعلی و تهدید نهادهای اجتماعی و دموکراتیک.
جمع‌بندی
این پژوهش نشان می‌دهد چهره‌های هوش مصنوعی نه‌تنها تشخیص را برای کاربران دشوار کرده‌اند، بلکه در بسیاری از موارد اعتماد بیشتری نسبت به چهره‌های واقعی ایجاد می‌کنند. با گسترش ابزارهای تولید تصویر، افزایش آگاهی عمومی و توسعه راهکارهای مقابله با سوءاستفاده از این فناوری اهمیت بیشتری پیدا می‌کند.
اگر این مقاله برای شما مفید بود، آن را با دیگران به اشتراک بگذارید تا افراد بیشتری با خطرات احتمالی چهره‌های تولیدشده توسط هوش مصنوعی آشنا شوند.
