۲۰ شرکت فناوری پیشرو از جمله Adobe، آمازون، گوگل، IBM، متا، مایکروسافت، OpenAI، تیکتاک و X متعهد به همکاری برای شناسایی و مقابله با محتوای هوش مصنوعی مضر شدهاند.
در کنفرانس امنیتی مونیخ (MSC)، شرکتهای پیشرو فناوری متعهد شدند تا از دخالت محتوای فریبنده هوش مصنوعی در انتخابات جهانی امسال که بیش از چهار میلیارد نفر در بیش از ۴۰ کشور در آن رأی خواهند داد، جلوگیری کنند.
«توافق فناوری برای مقابله با استفاده فریبنده هوش مصنوعی در انتخابات ۲۰۲۴» مجموعهای از تعهدات برای بهکارگیری فناوری جهت مقابله با محتوای هوش مصنوعی مضر با هدف فریب رایدهندگان است. امضاکنندگان متعهد به همکاری روی ابزارهایی برای شناسایی و رسیدگی به توزیع آنلاین چنین محتوای هوش مصنوعی، هدایت کمپینهای آموزشی و ارائه شفافیت در میان سایر اقدامات مشخص هستند. همچنین شامل مجموعهای گسترده از اصول، از جمله اهمیت ردیابی منشأ محتوای فریبنده مرتبط با انتخابات و نیاز به افزایش آگاهی عمومی در مورد این مشکل است. این توافق یک گام مهم برای محافظت از جوامع آنلاین در برابر محتوای هوش مصنوعی مضر است و بر اساس کار مداوم شرکتهای فردی ساخته شده است.
محتوای دیجیتال موردنظر این توافق شامل صدا، ویدئو و تصاویر تولید شده توسط هوش مصنوعی است که به طور فریبنده ظاهر، صدا یا اقدامات نامزدهای سیاسی، مقامات انتخابات و سایر ذینفعان کلیدی در یک انتخابات دموکراتیک را جعل یا تغییر میدهند، یا اطلاعات نادرستی به رایدهندگان درباره زمان، مکان و نحوه رأیگیری ارائه میدهند.
از امروز، امضاکنندگان عبارتاند از: Adobe، آمازون، Anthropic، Arm، ElevenLabs، گوگل، IBM، Inflection AI، LinkedIn، McAfee، متا، مایکروسافت، Nota، OpenAI، Snap، Stability AI، تیکتاک، TrendMicro، Truepic و X.
شرکتهای شرکتکننده بر روی هشت تعهد خاص توافق کردند:
- توسعه و اجرای فناوری برای کاهش خطرات مرتبط با محتوای فریبنده انتخابات باهوش مصنوعی، از جمله ابزارهای متنباز در صورت مناسب.
- ارزیابی مدلها در محدوده این توافق برای درک خطراتی که ممکن است در رابطه با محتوای فریبنده انتخابات هوش مصنوعی ایجاد کنند.
- تلاش برای شناسایی توزیع این محتوا در پلتفرمهای خود.
- تلاش برای رسیدگی مناسب به این محتوای تشخیص داده شده در پلتفرمهای خود.
- تقویت تابآوری بین صنعتی در برابر محتوای فریبنده انتخابات با هوش مصنوعی.
- ارائه شفافیت به عموم مردم در مورد چگونگی رسیدگی شرکت به آن.
- ادامه تعامل با مجموعه متنوعی از سازمانهای جامعه مدنی جهانی، دانشگاهیان.
- حمایت از تلاشها برای تقویت آگاهی عمومی، سواد رسانهای و تابآوری همه جامعه.
این تعهدات در صورتی اعمال میشوند که برای خدماتی که هر شرکت ارائه میدهد مرتبط باشند.
سفیر کریستوفر هووسگن، رئیس کنفرانس امنیتی مونیخ، گفت: «انتخابات نبض جوامع دموکراتیک هستند. توافق فناوری برای مقابله با استفاده فریبنده هوش مصنوعی در انتخابات ۲۰۲۴ گامی کلیدی در پیشبرد سلامت انتخابات، افزایش تابآوری جامعه و ایجاد شیوههای فناوری قابل اعتماد است. MSC مفتخر است که پلتفرمی را برای شرکتهای فناوری ارائه میدهد تا گامهایی را برای کنترل تهدیدات ناشی از هوش مصنوعی در عین حال استفاده از آن برای خیر دموکراتیک بردارند.
دانا رائو، مشاور کل و مدیر ارشد اعتماد در Adobe گفت: «شفافیت اعتماد ایجاد میکند. به همین دلیل است که ما از دیدن این تلاش برای ساخت زیرساختی که برای ارائه زمینه برای محتوایی که مصرفکنندگان بهصورت آنلاین مشاهده میکنند، هیجانزده هستیم. با برگزاری انتخابات در سراسر جهان در سال جاری، نیاز به سرمایهگذاری در کمپینهای سواد رسانهای داریم تا اطمینان حاصل کنیم که مردم میدانند به همه چیزهایی که بهصورت آنلاین میبینند و میشنوند نمیتوانند اعتماد کنند و ابزارهایی برای کمک به آنها برای درک آنچه واقعی است وجود دارد.»
کنت واکر، رئیس امور جهانی در گوگل گفت: «دموکراسی بر پایه انتخابات سالم و امن استوار است. گوگل سالهاست که از سلامت انتخابات حمایت میکند و توافق امروز نشاندهنده تعهد صنعت علیه اطلاعات نادرست انتخابات تولید شده توسط هوش مصنوعی است که اعتماد را از بین میبرد. ما نمیتوانیم اجازه دهیم سوء استفاده دیجیتال فرصت نسل هوش مصنوعی برای بهبود اقتصادمان، ایجاد شغلهای جدید و پیشرفت در سلامت و علم را تهدید کند.»
کریستینا مونتگومری، معاون رئیس و مدیر ارشد حریم خصوصی و اعتماد در IBM گفت: «کمپینهای اطلاعات نادرست جدید نیستند، اما در این سال استثنایی انتخابات – با حضور بیش از ۴ میلیارد نفر در سراسر جهان – اقدامات ملموس و مشارکتی برای محافظت از مردم و جوامع در برابر خطرات فزاینده محتوای فریبنده تولید شده توسط هوش مصنوعی موردنیاز است. به همین دلیل است که IBM امروز تعهد خود را برای اطمینان از هوش مصنوعی ایمن، قابلاعتماد و اخلاقی با امضای “توافق فناوری برای مقابله با استفاده فریبنده هوش مصنوعی در انتخابات ۲۰۲۴” در کنار همتایان صنعت در کنفرانس امنیتی مونیخ تأیید کرد.»
نیک کلگ، رئیس امور جهانی در متا گفت: «با توجه به تعداد زیاد انتخاباتهای مهمی که در سال جاری برگزار میشود، حیاتی است که هر کاری که میتوانیم انجام دهیم تا از فریب مردم توسط محتوای تولید شده توسط هوش مصنوعی جلوگیری کنیم. این کار فراتر از هر شرکتی است و به تلاش عظیمی در سراسر صنعت، دولت و جامعه مدنی نیاز دارد. امیدواریم این توافق بتواند بهعنوان گامی معنادار از سوی صنعت در پاسخ به این چالش باشد.»
برد اسمیت، معاون رئیس و رئیس مایکروسافت گفت: «باتوجهبه اینکه جامعه مزایای هوش مصنوعی را در آغوش میگیرد، ما مسئولیت داریم که به تضمین این موضوع کمک کنیم که این ابزارها در انتخابات به سلاح تبدیل نشوند. هوش مصنوعی تقلب در انتخابات را ایجاد نکرد، اما ما باید اطمینان حاصل کنیم که به شکوفایی تقلب کمک نمیکند.»
آنا ماکانجو، معاون رئیس امور جهانی OpenAI گفت: «ما متعهد به حفظ سلامت انتخابات با اجرای سیاستهایی هستیم که از سوءاستفاده جلوگیری میکنند و شفافیت را در مورد محتوای تولید شده توسط هوش مصنوعی افزایش میدهند. ما مشتاقانه منتظر همکاری با شرکای صنعتی، رهبران جامعه مدنی و دولتها در سراسر جهان برای کمک به محافظت از انتخابات در برابر استفاده فریبنده از هوش مصنوعی هستیم.»
تئو برترام، معاون رئیس سیاست عمومی جهانی در تیکتاک گفت: «در این سال انتخابات تاریخی، همکاری صنعت برای محافظت از جوامع در برابر هوش مصنوعی گمراهکننده و فریبنده ضروری است. این بر اساس سرمایهگذاری مداوم ما در حفاظت از سلامت انتخابات و پیشبرد شیوههای تولید محتوای مبتنی بر هوش مصنوعی مسئولانه و شفاف از طریق قوانین قوی، فناوریهای جدید و مشارکتهای سواد رسانهای با کارشناسان استوار است.»
لیندا یاکارینو، مدیر عامل X گفت: «در فرایندهای دموکراتیک در سراسر جهان، هر شهروند و شرکتی مسئولیت حفظ انتخابات آزاد و عادلانه را دارد، به همین دلیل است که باید خطرات محتوای هوش مصنوعی را بر این فرایند درک کنیم. X متعهد به ایفای نقش خود، همکاری با همتایان برای مقابله با تهدیدات هوش مصنوعی و درعینحال محافظت از آزادی بیان و به حداکثر رساندن شفافیت است.»
اطلاعات بیشتر را میتوانید در اینجا بیابید: AIElectionsAccord.com.