تحقیقی گسترده نشان میدهد رقابت شدید میان شبکههای اجتماعی برای جذب کاربران، بهویژه در رقابت با TikTok، باعث شده برخی شرکتهای فناوری در زمینه امنیت کاربران عقبنشینی کنند. بر اساس اسناد داخلی و شهادت افشاگران، شرکتهایی مانند Meta برای حفظ رشد و افزایش تعامل کاربران، به انتشار بیشتر آنچه «محتوای مرزی» نامیده میشود اجازه دادهاند؛ محتوایی که میتواند کاربران را به سمت افراطگرایی یا رفتارهای خطرناک سوق دهد.
این گزارش بر پایه بررسی اسناد داخلی شرکتها و گفتههای بیش از ده افشاگر تهیه شده است. یافتهها نشان میدهد برخی تصمیمهای مهم در شرکتهای فناوری نه بر اساس امنیت کاربران، بلکه با هدف رقابت با رشد سریع TikTok و افزایش سود اتخاذ شده است.
تحقیقات گسترده BBC درباره رقابت خطرناک شبکههای اجتماعی
تحقیق جامعی که توسط BBC انجام شده، نشان میدهد شرکتهای بزرگ شبکه اجتماعی در تلاش برای مقابله با رشد انفجاری TikTok، عمداً ریسکهایی را در حوزه امنیت کاربران پذیرفتهاند.
این گزارش بر پایه شهادت بیش از یک دوجین افشاگر و مجموعهای از اسناد داخلی تهیه شده است. در این اسناد آمده است که مدیران برخی شرکتهای فناوری برای حفظ سودآوری و رقابت در بازار، حتی در موضوعاتی مانند خشونت، اخاذی جنسی یا محتوای مرتبط با تروریسم نیز تصمیمهای پرریسکی گرفتهاند.
Meta اجازه انتشار بیشتر «محتوای مرزی» را داد
طبق گفته یکی از مهندسان شاغل در Meta، مدیریت این شرکت با استناد به کاهش قیمت سهام تصمیم گرفت محدودیتهای معمول برای برخی محتواها را کاهش دهد.
این تصمیم باعث شد محتوایی که پیشتر باید محدود میشد — مانند زنستیزی یا نظریههای توطئه — در فید کاربران بیشتر دیده شود. چنین محتواهایی در دسته «محتوای مرزی» قرار میگیرند؛ محتوایی که بهطور مستقیم قوانین را نقض نمیکند، اما میتواند کاربران را به سمت دیدگاههای افراطی سوق دهد.
راهاندازی عجولانه Instagram Reels بدون سازوکار امنیتی کافی
یکی از پژوهشگران ارشد سابق شرکت به نام Matt Motyl اعلام کرده است که قابلیت Instagram Reels در سال ۲۰۲۰ با عجله و بدون ایجاد سازوکارهای امنیتی کافی عرضه شد.
دادههای داخلی منتشرشده توسط او نشان میدهد میزان موارد زیر در Reels بسیار بیشتر از فید اصلی Instagram بوده است:
- زورگویی آنلاین
- آزار و اذیت کاربران
- گفتار نفرتانگیز
در حالی که شرکت برای توسعه Reels تیمی حدود ۷۰۰ نفره تشکیل داد، درخواستهای مربوط به افزایش نیرو در بخشهای مهمی مانند ایمنی کودکان یا سلامت انتخابات رد شده است.
افشاگری درباره اولویتبندی عجیب در TikTok
در سوی دیگر رقابت، یک عضو تیم امنیتی TikTok با نام مستعار «Nick» اسنادی از پنلهای مدیریتی داخلی این شرکت را منتشر کرده است.
به گفته او، TikTok برای حفظ روابط با دولتها و جلوگیری از احتمال ممنوعیت فعالیت، پروندههای مربوط به شخصیتهای سیاسی را در اولویت بررسی قرار داده است.
این در حالی است که برخی موارد جدیتر مانند سوءاستفاده از کودکان یا اخاذی جنسی در اولویت پایینتر قرار گرفتهاند.
در یکی از مثالهای مطرحشده:
- ویدیویی که در آن یک سیاستمدار با تشبیه به مرغ مورد تمسخر قرار گرفته بود، با برچسب «فوری» بررسی شد
- در مقابل درخواست کمک یک نوجوان ۱۶ ساله که با تصاویر جنسی تهدید به اخاذی شده بود، با تأخیر رسیدگی شد
این افشاگر حتی از والدین خواسته است تا حد امکان فرزندان خود را از استفاده از این اپلیکیشن دور نگه دارند.
الگوریتمها؛ جعبه سیاه شبکههای اجتماعی
مهندسان سابق این شرکتها معتقدند الگوریتمهای شبکههای اجتماعی در عمل مانند «جعبه سیاه» عمل میکنند. این سیستمها معمولاً به کیفیت محتوا توجهی ندارند، بلکه تنها معیار اصلی آنها میزان تعامل کاربران است.
به همین دلیل، محتوایی که واکنش احساسی شدید ایجاد میکند — مانند خشم یا ترس — اغلب بیشتر توسط الگوریتمها تقویت میشود.
وقتی الگوریتم کاربران را رادیکال میکند
نمونهای از پیامدهای این سیستم، تجربه کاربری ۱۹ ساله به نام Calum است. او توضیح میدهد که الگوریتم بهطور مداوم محتواهایی را به او پیشنهاد میداد که احساس خشم ایجاد میکرد.
به گفته او، این روند بهتدریج باعث شد دیدگاههای نژادپرستانه در ذهنش شکل بگیرد؛ نمونهای از آنچه کارشناسان از آن با عنوان «رادیکالیزه شدن توسط الگوریتم» یاد میکنند.
پاسخ Meta و TikTok به این اتهامات
شرکتهای Meta و TikTok تمام این ادعاها را رد کردهاند.
آنها اعلام کردهاند میلیاردها دلار برای افزایش امنیت پلتفرمهای خود سرمایهگذاری کردهاند. همچنین مدعی هستند از فناوریهای پیشرفته برای حفاظت از کودکان و مقابله با سوءاستفادهها استفاده میکنند.
با این حال، کارشناسان مبارزه با تروریسم هشدار میدهند که محتوای خشونتآمیز و افراطی در شبکههای اجتماعی بهدلیل همین الگوریتمها روزبهروز عادیتر میشود.
جمعبندی: رقابت الگوریتمی یا امنیت کاربران؟
افشاگریهای اخیر نشان میدهد رقابت شدید میان شبکههای اجتماعی برای جذب کاربران میتواند پیامدهای خطرناکی داشته باشد. وقتی معیار اصلی موفقیت پلتفرمها تنها افزایش تعامل باشد، احتمال دارد محتواهای تحریککننده، افراطی یا حتی خطرناک بیشتر دیده شوند.
چالش بزرگ پیشروی صنعت فناوری این است: چگونه میتوان میان رشد کاربران، سودآوری، امنیت دیجیتال تعادل برقرار کرد؟ پاسخ این پرسش احتمالاً آینده شبکههای اجتماعی را تعیین خواهد کرد.
نظر شما چیست؟
آیا الگوریتمهای شبکههای اجتماعی باید بیشتر قانونگذاری شوند؟ دیدگاه خود را در بخش نظرات بنویسید، این مقاله را با دوستانتان به اشتراک بگذارید.
