گزارش جدید با نام "سلاحهای خودمختار و خطرهای عملیاتی" توسط پل شایر یک مدیر در "مرکز برای امنیت جدید آمریکایی" بیان میکند. شایر پیش از این برای دفتر وزیر دفاع کار میکرد که در آنجا به ارتش ایالات متحده کمک کرد تا سیاستهای خود را در استفاده از سلاحهای بدون سرنشین خودمختار بسازد. وقتی که بکار گرفته شوند، این سلاحهای آینده امکان انتخاب و درگیر شدن با هدف انتخابی خود را دارند، که خود انبوهی از سوالات قانونی، اخلاقی و عقلانی را پیش میآورد. اما شایر به این نکته در گزارش جدید اشاره میکند، "آنها همچنین توجهات مهم حیاتی را در رابطه با امنیت و خطرها در نظر میآورند".
همانطور که شایر با احتیاط بیان میکند، یک تفاوت بین سلاحهای نیمه خودمختار و تمام خودمختار وجود دارد. با سلاحهای نیمه خودمختار، یک کنترل کننده انسانی در چرخه باقی میماند، که فعالیتهای سلاح و سیستم سلاح را تحت نظر میگیرد. اگر نقص پیدا کند کنترل کننده دکمه قطع را خواهد زد. اما با سلاحهای خودمختار خسارتی که ممکن است بوجود آید ممکن است بیشتر از این باشد تا قبل از اینکه یک انسان بتواند مداخله کند. شایر نگران این موضوع ست که این سیستمها مستعد خطا در طراحی، هک شدن، دست انداختن و دستکاری دشمن هستند.
سیستمهای سلاحهای بدون انسان آینده ممکن است شامل پهپادهایی بدون اپراتور، خودروهای خودمختار رباتیک، مسلسلهای نگهبانی خودکار و سیستمهای تکتیرانداز خودمختار شوند.
شایر عواقب احتمالی رابه رنگ سیاهی به تصویر میکشد:
در بدترین حالت، سلاحهای خودمختار دارای خطر بزرگ کشتار جمعی خودیها را دارند این زمانی اتفاق میافتد که تعداد زیادی از سلاحها بر علیه نیروهای خودی موضع بگیرند. این میتواند بخاطر هک شدن، دستکاریهای رفتاری دشمن، عکسالعملهای غیرهمنتظره با محیط یا تنها بخاطر خرابی یا نقص نرمافزاری باشد. بیشتر از این، همانطور که پیچیدگی سیستم افزایش مییابد بسیار سختتر خواهد شد که رفتار سیستم را در تمام شرایط ممکن مورد بررسی قرار داد؛ عدد تعاملات احتمالی در یک سیستم و با محیط اطراف آن بیش از حد بزرگ است.
خب این به نظر میرسد که ساختههای ترسناکترین فیلم علمی تخیلی در ناکجاآباد را با خود دارد. با این وجود، شایر بر این اعتقاد است که بعضی از این خطرها میتوانند کمتر شده و کاهش یابند، اما ریسک تصادفات "هیچگاه بطور کامل نمیتواند از بین برود".
ما هنوز سالهای بسیاری از دیدن سلاحهای کاملا خودمختار که در دنیای واقعی بکار میروند دور هستیم، اما آنقدرها هم زود نیست که دربارهی خطرهای احتمالی آن و منفعتهای آن بیاندیشیم. برای مثال این مورد بحث قرار گرفته که سیستم های خودمختار میتوانند مرگومیر و رنج را در صحنه جنگ کاهش دهند. شاید واقعا اینطور باشد، اما شایر و گروه او در مرکز امنیت جدید آمریکایی به این نکته اشاره میکنند که خطر در واقع بسیار جدی ست.