گزارش نیویورک تایمز نشان میدهد تصمیمهای اشتباه هوش مصنوعی Meta باعث مسدود شدن حسابهای کاربران، اعتراضهای گسترده، نگرانی درباره فرایندهای خودکار شده است.
-
- Meta پذیرفت که برخی حسابهای اینستاگرام، فیسبوک به اشتباه توسط هوش مصنوعی مسدود شدهاند.
- بیش از ۶۰ هزار نفر خواستار بررسی انسانی اعتراض کاربران شدهاند.
- این شرکت همچنان تأکید میکند ابزارهای جدید هوش مصنوعی نسبت به سیستمهای قبلی عملکرد دقیقتری دارند.
هوش مصنوعی Meta حسابهای اینستاگرام را به اشتباه مسدود میکند
هوش مصنوعی Meta در ماههای اخیر با تصمیمهایی بحثبرانگیز، حساب برخی کاربران اینستاگرام و فیسبوک را بدون آنکه مرتکب تخلفی شده باشند، مسدود کرده است. بر اساس گزارش The New York Times، برخی کاربران با اتهامهای سنگینی مانند کلاهبرداری یا سوءاستفاده از کودکان مواجه شدهاند، در حالی که امکان اعتراض مؤثر نیز برای بسیاری از آنها وجود نداشته است.
این اتفاق همزمان با افزایش نقش هوش مصنوعی در مدیریت محتوای Meta رخ داده است؛ موضوعی که نگرانی کاربران، فعالان حقوق دیجیتال را افزایش داده است.
ماجرای زوجی که کسبوکارشان یکشبه از بین رفت
در یکی از نمونههای مطرحشده، Camille Hanson در یکی از شبهای ماه مارس با دریافت اعلانی از خواب بیدار شد. در این اعلان آمده بود که حسابهای Facebook و Instagram او، جایی که همراه همسرش به حدود یک میلیون دنبالکننده زبان انگلیسی آموزش میدادند، در آستانه حذف قرار دارد.
Meta اعلام کرده بود این حسابها سیاستهای مربوط به کلاهبرداری و فریب کاربران را نقض کردهاند.
Camille Hanson، ۴۰ ساله، میگوید:
«من فقط یک معلم زبان انگلیسی هستم. با خودم میگفتم چه کار اشتباهی انجام دادهام؟»
در اعلان ارسالشده امکان ثبت اعتراض وجود داشت. او درخواست بازبینی را ثبت کرد، اما یک هفته بعد پیام دیگری دریافت کرد که اعتراضش رد شده است.
در پاسخ Meta آمده بود:
«تمام اطلاعات شما بهصورت دائمی حذف خواهد شد. امکان درخواست بازبینی مجدد برای این تصمیم وجود ندارد.»
Calvin Hanson، همسر ۴۲ ساله او که در پرتغال زندگی میکند، وضعیت پیشآمده را اینگونه توصیف کرد:
«انگار کسی وارد محل کسبوکارتان شود، دفتر یا فروشگاهتان را بدون هیچ توضیحی تعطیل کند.»
هوش مصنوعی نقش پررنگتری در تصمیمگیریهای Meta پیدا کرده است
پرونده خانواده Hanson تنها یکی از نمونههایی است که به اشتباهات هوش مصنوعی در تصمیمگیریهای Meta اشاره دارد.
این فناوری اکنون نقش گستردهای در تشخیص حسابهای ناقض قوانین، حذف تصاویر مضر، بررسی اعتراض کاربران ایفا میکند. در بسیاری از موارد نیز کاربران امکان ارتباط با یک مسئول انسانی در شرکت را ندارند.
Meta در ماه مارس اعلام کرده بود اختیارات بیشتری به رباتهای مبتنی بر هوش مصنوعی برای تصمیمگیری درباره حذف حسابها یا تصاویر آسیبزا میدهد.
چند ماه بعد نیز این شرکت هزاران نفر از کارکنان، از جمله افرادی که در حوزه نظارت بر محتوا فعالیت میکردند، تعدیل کرد.
اعتراض گسترده کاربران Meta
در واکنش به این تصمیمها، کاربران در فضای اینترنت شروع به سازماندهی اعتراضها کردند.
- بیش از ۶۰ هزار نفر طوماری را امضا کردند.
- امضاکنندگان خواستار شفافیت بیشتر درباره دلیل بسته شدن حسابها شدند.
- آنها همچنین درخواست کردند اعتراضها توسط انسان بررسی شود، نه هوش مصنوعی.
- انجمنهای Reddit و دیگر جوامع آنلاین نیز از شکایت کاربران Meta درباره عملکرد سیستم هوش مصنوعی پر شد.
پاسخ Meta به انتقادها
Daniel Roberts، سخنگوی Meta، ادعای عملکرد ضعیفتر هوش مصنوعی نسبت به نیروهای انسانی را رد کرد.
او اعلام کرد:
- ابزارهای جدید هوش مصنوعی نسبت به نیروی انسانی ۱۳ درصد خطای کمتر دارند.
- این ابزارها ۱۰ درصد تخلف بیشتر را شناسایی میکنند.
به گفته Roberts، پنج حسابی که New York Times درباره آنها سؤال کرده بود، توسط نسخه قدیمی سیستم هوش مصنوعی Meta مسدود شده بودند.
او گفت:
«ما متعهد هستیم خطاهای اجرایی را کاهش دهیم، به کاربران برای محافظت از حسابهایشان کمک کنیم. هوش مصنوعی در هر دو زمینه انتظارات را برآورده کرده است.»
سوابق دیگر مشکلات هوش مصنوعی Meta
این نخستین بار نیست که Meta با مشکلات مرتبط با هوش مصنوعی روبهرو میشود.
حمله به ۳۴ هزار حساب اینستاگرام
در ماه مه، هکرها با سوءاستفاده از چتبات خدمات مشتری مبتنی بر هوش مصنوعی Meta، به ۳۴ هزار حساب Instagram از جمله حساب قدیمی کاخ سفید متعلق به Barack Obama حمله کردند.
توقف برنامه رصد فعالیت صفحهکلید
در همان ماه، کارکنان Meta نسبت به برنامهای که برای آموزش هوش مصنوعی، فعالیتهای صفحهکلید را رصد میکرد اعتراض کردند. در نتیجه شرکت اجرای این برنامه را متوقف کرد.
شکایت کارکنان سابق
هفته گذشته نیز ۲۶ نفر از کارکنان سابق Meta با طرح شکایت مدعی شدند شرکت از الگوریتم هوش مصنوعی برای اخراج کارکنان دارای معلولیت استفاده کرده است.
سخنگوی Meta در پاسخ اعلام کرد:
«تصمیمهای مربوط به مدیریت نیروی انسانی و ساختار سازمانی توسط انسانها گرفته شده، همچنان نیز توسط انسانها اتخاذ میشود، نه هوش مصنوعی.»
کارزار حقوق کاربران علیه Meta
گروه مدافع حقوق کاربران People Over Platforms که خدمات بازیابی حساب نیز ارائه میدهد، امسال کارزار اینترنتی جدیدی برای تغییر سیاستهای مدیریت حسابهای Meta راهاندازی کرد.
به گفته این گروه، Meta بسیاری از امضاکنندگان این طومار را به انتشار محتوای مرتبط با سوءاستفاده از کودکان متهم کرد، سپس حسابهای آنها را بست.
کاربران معتقدند این اقدام آسیب واردشده به آنها را چند برابر کرده است.
پرونده JuneteenthNY
یکی از این موارد مربوط به Athenia Rodney، بنیانگذار گروه JuneteenthNY است؛ سازمانی که پایان بردهداری در آمریکا را گرامی میدارد.
Meta سال گذشته تمامی حسابهای شخصی، تجاری او در Facebook و Instagram را بست.
در پیام ارسالشده از سوی Meta آمده بود:
«فناوری ما تشخیص داده است که حساب شما یا فعالیتهای آن با قوانین ما مطابقت ندارد. در نتیجه، فناوری ما اقدام لازم را انجام داده است.»
Rodney اعلام کرد تمام محتوای این گروه برای خانوادهها مناسب بوده، دلیل Meta را درک نمیکند.
او پس از بسته شدن حسابها، آرشیو تصاویر JuneteenthNY را بهصورت کامل بررسی کرد تا شاید محتوایی باعث فعال شدن سیستم هوش مصنوعی شده باشد، اما مورد مشکوکی پیدا نکرد.
احتمال هک شدن حسابها
Rodney بعداً به یاد آورد که اندکی پیش از بسته شدن حسابها، هشدارهایی درباره تلاش برای ورود به حسابهایش از شهر Seattle، کشور Singapore دریافت کرده بود، در حالی که خودش در Atlanta زندگی میکرد.
او رمزهای عبور خود را فوراً تغییر داد، اما با وجود این اقدام، شش حساب Facebook و Instagram متعلق به کسبوکارها، پروفایل شخصی او بسته شدند.
تلاشهای بینتیجه برای بازگرداندن حسابها
Rodney برای بازیابی حسابهای خود اقدامات متعددی انجام داد:
- ارسال مدارک هویتی
- ثبت شکایت در Better Business Bureau
- ثبت شکایت در Federal Trade Commission
- مراجعه به نهادهای حمایت از مصرفکننده ایالتی
- تماس با کارکنان Meta از طریق LinkedIn
اما هیچیک از این اقدامات نتیجهای نداشت.
او میگوید از آن زمان تاکنون مجبور شده به حامیان مالی توضیح دهد که JuneteenthNY نزدیک به ۲۰ سال است یک سازمان معتبر محسوب میشود.
Rodney گفت:
«حامیان مالی ما برای اطمینان از اعتبار سازمان به شبکههای اجتماعی مراجعه میکنند. حالا وقتی فقط ۵۰۰ دنبالکننده میبینند، تصور میکنند ما کلاهبردار هستیم.»
نتیجه بررسی Meta
پس از آنکه New York Times اطلاعات پنج حساب مسدودشده را در اختیار Meta قرار داد، این شرکت اعلام کرد بررسی انجام داده است.
- دو حساب قربانی تصاحب توسط هکرها شده بودند.
- یک حساب بهدرستی مسدود شده بود.
- به گفته Meta، حسابهای هکشده به دلیل نقض سیاستهای ایمنی کودکان توسط هکرها بهدرستی بسته شده بودند.
Meta بعداً دسترسی دو حساب هکشده، از جمله حساب JuneteenthNY را دوباره برقرار کرد.
این شرکت همچنین پذیرفت که دو مورد از پنج حساب بررسیشده، از جمله حسابهای خانواده Hanson، به اشتباه مسدود شده بودند.
سوالات متداول
چرا Meta برخی حسابها را مسدود کرده است؟
بر اساس این گزارش، سیستم هوش مصنوعی Meta برخی حسابها را به اشتباه ناقض قوانین تشخیص داده است.
آیا امکان اعتراض به تصمیم Meta وجود دارد؟
بله، اما طبق گزارش، برخی کاربران اعلام کردهاند اعتراض آنها نیز توسط سیستم هوش مصنوعی بررسی، رد شده است.
آیا Meta اشتباه خود را پذیرفته است؟
بله. Meta تأیید کرده است که دستکم دو مورد از پنج حساب بررسیشده به اشتباه مسدود شده بودند.
Meta درباره عملکرد هوش مصنوعی چه میگوید؟
این شرکت اعلام کرده ابزارهای جدید هوش مصنوعی نسبت به نیروهای انسانی خطای کمتری دارند، تخلفات بیشتری را شناسایی میکنند.
جمعبندی
پروندههای مطرحشده در گزارش The New York Times نشان میدهد افزایش نقش هوش مصنوعی Meta در مدیریت حسابهای کاربران، نگرانیهای جدی درباره دقت تصمیمهای خودکار، روند رسیدگی به اعتراضها ایجاد کرده است. هرچند Meta بخشی از اشتباهات را پذیرفته، همچنان بسیاری از کاربران خواستار شفافیت بیشتر، بررسی انسانی پروندههای خود هستند.
اگر از کاربران Facebook یا Instagram هستید، وضعیت امنیت حساب خود را بهطور منظم بررسی کنید، اعلانهای امنیتی را جدی بگیرید، در صورت مشاهده فعالیت مشکوک سریعاً رمز عبور خود را تغییر دهید.
