چند سال پیش، «گابریل آگویلار» تصور می‌کرد شغل خوبی پیدا کرده است. پیشنهاد کاری واقعی به نظر می‌رسید؛ مصاحبه انجام شد، مدارک ارسال شد و حتی چکی برای خرید لپ‌تاپ دریافت کرد.
در یادداشت همراه چک نوشته شده بود که باید مبلغ باقی‌مانده را برگرداند. همه چیز ساده به نظر می‌رسید، اما در واقع تله‌ای ماهرانه بود. چک جعلی بود و هدف این بود که او را بی‌پول کنند. خوشبختانه بانک با شناسایی اشتباهات موجود در چک، او را نجات داد.
تغییری که مسیر زندگی‌اش را عوض کرد
این تجربه نزدیک به فاجعه، زندگی آگویلار را دگرگون کرد. امروز او در دانشگاه تگزاس آرلینگتون تدریس می‌کند و روی این موضوع تحقیق دارد که چگونه هوش مصنوعی به کلاهبرداران کمک می‌کند تا افراد را فریب دهند. تمرکز اصلی پژوهش او بر جامعه لاتین‌تبار است؛ گروهی که اغلب هدف کلاهبرداری‌های دیجیتال جدید قرار می‌گیرند.
کلاهبرداری‌های هوش مصنوعی چگونه عمل می‌کنند؟
کلاهبرداران دیگر نیازی به تماس مستقیم یا نوشتن دستی ندارند. اکنون ماشین‌ها به جای آن‌ها صحبت می‌کنند. پژوهش جدید آگویلار که در مجله Journal of Business and Technical Communication منتشر شده، نشان می‌دهد ابزارهایی مانند چت‌بات‌ها، دیپ‌فیک‌ها و تقلید صدا چگونه باعث می‌شوند کلاهبرداری‌ها واقعی‌تر به نظر برسند.
«در حوزه تخصصی من، دیدگاه غالب این است که همکاری انسان و هوش مصنوعی، نوعی مشارکت خلاق ایجاد می‌کند که معمولاً اهداف مثبت دارد.» آگویلار می‌گوید: «اما من به سراغ مواردی می‌روم که این همکاری خلاقانه برای فریب دیگران استفاده می‌شود.»
اکنون صدای آشنای یک فرد می‌تواند در چند ثانیه تقلید شود. وب‌سایت‌های ساخته‌شده با هوش مصنوعی می‌توانند دقیقاً ظاهر نهادهای رسمی را بازسازی کنند. این نوع فریب شخصی و باورپذیر است، زیرا به زبان قربانی صحبت می‌کند و با ترس‌ها و امیدهایش بازی می‌کند.
چرا جامعه لاتین‌تبار بیشتر آسیب می‌بیند؟
پژوهش آگویلار توضیح می‌دهد که چرا بسیاری از لاتین‌تبارها بیش از دیگران در معرض خطر هستند. محدودیت در دسترسی به فناوری‌های دیجیتال، فشار مالی و نگرانی‌های مهاجرتی، بستری مناسب برای سوء‌استفاده ایجاد می‌کند.
- برخی کلاهبرداران خود را به‌عنوان مشاوران حقوقی یا «نوتاریو» جا می‌زنند و وعده کمک قانونی می‌دهند.
- برخی دیگر آگهی‌های شغلی جعلی منتشر می‌کنند که کاملاً واقعی به نظر می‌رسند.
افراد مسن معمولاً تماس‌هایی دریافت می‌کنند که صدای آن شبیه اعضای خانواده است. در مقابل، جوان‌ترها با تبلیغات دروغین سرمایه‌گذاری یا کار از راه دور روبه‌رو می‌شوند. هر دو گروه در نهایت اطلاعات شخصی یا پول خود را از دست می‌دهند. این همان کلاهبرداری‌های قدیمی است که با فناوری جدید قدرتمندتر شده‌اند.
دلیل فریب خوردن بسیاری از قربانیان، احساس آشنایی و اعتماد فرهنگی است. پیام‌ها با لحن بومی و وعده‌هایی واقعی مانند امنیت خانواده، درآمد پایدار و زندگی بهتر طراحی می‌شوند.
آموزش برای مقابله با فریب‌های هوش مصنوعی
آگویلار تصمیم گرفت واکنش نشان دهد. او کلاس‌های نگارش فنی خود را به محیطی برای آگاهی دیجیتال تبدیل کرد. دانشجویان یاد می‌گیرند نشانه‌های فریب را تشخیص دهند و بفهمند هوش مصنوعی چگونه محتوای آنلاین را شکل می‌دهد.
«در واقع، هدف این چارچوب آموزشی این است که نشان دهد هوش مصنوعی کلاهبرداری را اختراع نکرده، بلکه ابزارهای آن را پیشرفته‌تر کرده است.»
دانشجویان در این کلاس‌ها یاد می‌گیرند به جای اعتماد کورکورانه به پیام‌ها، پرسشگر باشند. آن‌ها تمرین می‌کنند تا لحن، ریتم و بافت متن‌های تولیدشده با هوش مصنوعی را بشناسند.
پس از یادگیری، دانشجویان آگاهی خود را به اطرافیان منتقل می‌کنند. این آگاهی نه از طریق سخنرانی رسمی، بلکه از طریق گفت‌وگو گسترش می‌یابد.
ارتباط گذشته با فناوری امروز
آگویلار به دانشجویان یادآوری می‌کند که کلاهبرداری‌های امروزی ناگهانی پدید نیامده‌اند. دهه‌ها پیش، کلاهبرداران بدون ماشین همین کارها را می‌کردند—با در زدن، نامه‌های جعلی یا معرفی خود به عنوان مأمور رسمی. ابزارها تغییر کرده‌اند اما نیت ثابت مانده است.
او توضیح می‌دهد که کلاهبرداران، رفتار انسانی، زبان و فرهنگ را مطالعه می‌کنند تا بتوانند آن را تقلید کنند. این تقلید، خلاقیت نیست بلکه نوعی محاسبه است.
«برای من، نگارش فنی ابزاری است برای کنار زدن فریب‌های ذهنی و کمک به مردم تا سریع‌تر متوجه شوند وقتی چیزی بیش از حد خوب به نظر می‌رسد، احتمالاً واقعی نیست.» آگویلار می‌گوید.
یادگیری برای ایمن ماندن
روش آموزشی آگویلار در نهایت به عمل منجر می‌شود. دانشجویان با پروژه‌های کوچک اما تأثیرگذار آموخته‌های خود را به کار می‌گیرند.
- برخی برای بستگان مسن خود، اینفوگرافیک‌هایی به زبان اسپانیایی طراحی می‌کنند.
- عده‌ای پادکست‌هایی آموزشی درباره فریب‌های آنلاین تولید می‌کنند.
- گروهی دیگر از ابزارهای هوش مصنوعی به‌طور مسئولانه استفاده می‌کنند تا روش‌های دستکاری را درک کنند.
هر تلاش کوچک، فاصله میان آگاهان و ناآگاهان از فناوری را کمتر می‌کند. آموزش، به سپر دفاعی تبدیل می‌شود نه صرفاً منبع اطلاعات. جامعه‌ای آگاه‌تر شکل می‌گیرد که قبل از کلیک کردن، فکر می‌کند.
گام بعدی در مبارزه با فریب‌های دیجیتال
آگویلار معتقد است این نبرد با پیشرفت هوش مصنوعی ادامه خواهد داشت. کلاهبرداران همگام با فناوری تکامل می‌یابند، اما آگاهی می‌تواند از آن‌ها پیشی بگیرد. پژوهش او خواستار همکاری بیشتر با جوامع اقلیت است تا تأثیر فریب‌های هوش مصنوعی بر آن‌ها بهتر درک شود.
«استفاده سوء از هوش مصنوعی همچنان در حال تحول است، زیرا کلاهبرداران در حال نوآوری در همکاری‌های خلاقانه خود با فناوری‌های نو هستند.»
با این حال، او خوش‌بین است. همان هوشی که فریب را می‌آفریند، می‌تواند آن را افشا کند. با تفکر انتقادی و آگاهی جمعی، می‌توان فناوری را از ابزار فریب به ابزار دفاع تبدیل کرد.
این پژوهش در مجله Journal of Business and Technical Communication منتشر شده است.
