- شبکه عصبی با وجود دقت آموزشی ۹۹٫۹۷ درصد، در نمونههای جدید بهسادگی فریب خورد.
- خطاهای هوش مصنوعی میتواند مأموریتهای فضایی را برای ماهها یا سالها منحرف کند.
- پژوهشگران بر ضرورت حضور انسان در فرآیند بررسی تصمیمهای هوش مصنوعی تأکید دارند.
جستجوی حیات در خارج از زمین همواره با شگفتیها، امیدها، خطاها همراه بوده است. اکنون یک پژوهش جدید نشان میدهد که حتی پیشرفتهترین سیستمهای هوش مصنوعی نیز ممکن است با اطمینان کامل نشانههایی از حیات را تشخیص دهند، در حالی که در واقع هیچ حیاتی وجود ندارد. این یافته میتواند بر مأموریتهای آینده فضایی، تحلیل دادههای علمی، کاربردهای پزشکی، سامانههای امنیتی، خودروهای خودران تأثیر مهمی بگذارد.
نتایج این مطالعه نشان میدهد اگرچه هوش مصنوعی ابزار بسیار قدرتمندی برای تحلیل حجم عظیمی از دادهها است، اما همچنان به نظارت انسانی، روشهای مستقل برای راستیآزمایی نتایج نیاز دارد.
چالش شناسایی حیات فرازمینی
هیچ ویژگی واحدی وجود ندارد که بتواند بهطور قطعی وجود حیات در یک سیاره دیگر را اثبات کند. به همین دلیل دانشمندان به دنبال نشانههای زیستی (Biosignatures) هستند؛ سرنخهایی که احتمال وجود موجودات زنده را مطرح میکنند.
این نشانهها میتوانند شامل موارد زیر باشند:
- مواد شیمیایی خاص
- مولکولهای پیچیده
- الگوهایی که تنها با فرآیندهای طبیعی بهسختی قابل توضیح هستند
پژوهشگران همچنین ویژگیهایی را بررسی میکنند که میان تمام موجودات زنده مشترک است.
Professor Adami از Michigan State University میگوید:
«یکی از این ویژگیها این است که حیات باید بتواند اطلاعات را رمزگذاری کند.»
روی زمین، این وظیفه بر عهده DNA است که اطلاعات ژنتیکی را ذخیره کرده، هنگام تولیدمثل به نسل بعد منتقل میکند.
آزمایش هوش مصنوعی با حیات دیجیتال
Ankit Gupta، Christoph Adami تصمیم گرفتند بررسی کنند آیا هوش مصنوعی واقعاً میتواند چیزی را که مانند حیات رفتار میکند، بهدرستی تشخیص دهد یا خیر.
برای انجام این آزمایش، آنها از نرمافزاری به نام Avida استفاده کردند.
در این برنامه به جای سلولهای واقعی، موجودات دیجیتالی ساخته میشوند که از کدهای رایانهای تشکیل شدهاند. این موجودات در یک محیط مجازی از خود نسخهبرداری میکنند.
همانند موجودات واقعی، فرآیند تکثیر کاملاً بدون خطا نیست. با گذشت زمان تغییرات کوچکی ایجاد میشود که امکان مطالعه فرآیند تکامل را در محیطی کاملاً کنترلشده فراهم میکند.
دانشمندان طی چند دهه گذشته بارها از این نوع حیات دیجیتال برای درک بهتر سازوکار تکامل استفاده کردهاند.
آموزش شبکه عصبی
تیم تحقیقاتی دهها هزار موجود دیجیتال تولید کرد.
- برخی از آنها دستورالعملهای لازم برای تولیدمثل را داشتند.
- برخی دیگر فاقد این قابلیت بودند.
سپس از این مجموعه داده برای آموزش یک شبکه عصبی استفاده شد تا بتواند میان این دو گروه تفاوت قائل شود.
نتیجه اولیه بسیار امیدوارکننده بود؛ دقت مدل در مرحله آموزش به ۹۹٫۹۷ درصد رسید.
هوش مصنوعی بهراحتی فریب میخورد
اما این موفقیت زمانی که هوش مصنوعی با نمونههای جدید روبهرو شد، دوام نداشت.
پژوهشگران یک موجود دیجیتال را که مدل بهدرستی آن را فاقد توانایی تولیدمثل تشخیص داده بود، انتخاب کردند. سپس کد آن را مرحلهبهمرحله تغییر دادند.
تنها پس از حدود ۱۵۰ تغییر، هوش مصنوعی همان موجود را به اشتباه موجودی خودتکثیرشونده تشخیص داد.
Ankit Gupta میگوید:
«صرفنظر از اینکه با چه توالی دستوری شروع میکردیم، توانستیم در ۱۰۰ درصد موارد هوش مصنوعی را فریب دهیم.»
Professor Adami نیز افزود:
«احتمال برخورد با چنین توالیهایی کاملاً قابل توجه است.»
خطر کشفهای اشتباه در مأموریتهای فضایی
NASA هماکنون از نرمافزارهای پیشرفته برای تحلیل دادههای فضاپیماها استفاده میکند. انتظار میرود مأموریتهای آینده بیش از گذشته به هوش مصنوعی وابسته باشند.
این فناوری میتواند در مأموریتهای زیر نقش مهمی داشته باشد:
- مریخنوردها
- کاوشگرهای قمرهای یخی مشتری
- کاوشگرهای قمرهای زحل
- تلسکوپهای فضایی که جو سیارات دوردست را بررسی میکنند
در برخی مأموریتها، فاصله بسیار زیاد باعث میشود ارسال و دریافت پیام از زمین چند دقیقه یا حتی بسیار بیشتر زمان ببرد. بنابراین فضاپیما ناچار است برخی تصمیمها را بهصورت مستقل اتخاذ کند.
اگر هوش مصنوعی در چنین شرایطی به اشتباه وجود حیات را گزارش کند، ممکن است دانشمندان ماهها یا حتی سالها منابع خود را صرف بررسی کشفی کنند که در نهایت نادرست از آب درآید.
تیم پژوهشی قصد دارد در مرحله بعد مدل خود را با دادههای واقعی آموزش دهد تا مشخص شود آیا همچنان به همین سادگی قابل فریب خواهد بود یا خیر.
نگرانی بزرگتر درباره هوش مصنوعی
به گفته پژوهشگران، این یافته تنها به حوزه اخترزیستشناسی محدود نمیشود، بلکه بسیاری از سامانههای هوش مصنوعی امروزی با همین مشکل روبهرو هستند.
Professor Adami که در گروههای میکروبیولوژی، ژنتیک مولکولی، فیزیک، نجوم Michigan State University فعالیت میکند، میگوید:
«هوش مصنوعی یک پاشنه آشیل دارد. ممکن است الگویی را مشاهده کند، اما آن را کاملاً اشتباه طبقهبندی کند.»
این نگرانی تنها به جستجوی حیات محدود نیست. امروزه هوش مصنوعی در حوزههای زیر نیز بهطور گسترده استفاده میشود:
- تصویربرداری پزشکی
- سامانههای امنیتی
- خودروهای خودران
- بسیاری از فناوریهایی که تصمیمگیری دقیق در آنها اهمیت حیاتی دارد
در تمام این کاربردها، یک پاسخ اشتباه اما با اطمینان بالا میتواند پیامدهای جدی ایجاد کند.
هوش مصنوعی همچنان به نظارت انسانی نیاز دارد
پژوهشگران تأکید میکنند هدف این مطالعه کنار گذاشتن هوش مصنوعی نیست.
آنها معتقدند این فناوری باید بهعنوان ابزاری قدرتمند مورد استفاده قرار گیرد، اما همواره تحت نظارت دقیق باشد.
Professor Adami میگوید:
«این موضوع به معنای بیفایده بودن استفاده از چنین روشهایی در اخترزیستشناسی، تشخیص پزشکی، میدان نبرد یا سایر کاربردها نیست. تنها به این معناست که باید یک روش مستقل برای بررسی نتایج وجود داشته باشد.»
او تأکید میکند:
«باید همیشه یک انسان در چرخه تصمیمگیری حضور داشته باشد.»
البته این موضوع همیشه امکانپذیر نیست. برای مثال، یک کاوشگر رباتیک که میلیونها کیلومتر از زمین فاصله دارد، ممکن است مجبور باشد نمونهها را مدتها پیش از آنکه دانشمندان بتوانند دادهها را بررسی کنند، بهصورت مستقل تحلیل کند.
در حالی که آژانسهای فضایی خود را برای مأموریتهای جاهطلبانهتر جهت یافتن حیات در خارج از زمین آماده میکنند، این پژوهش یادآوری میکند که هوش مصنوعی اگرچه قادر است حجم عظیمی از اطلاعات را پردازش کند، اما همچنان ممکن است خطاهایی متقاعدکننده مرتکب شود.
سؤالات متداول
آیا هوش مصنوعی میتواند وجود حیات فرازمینی را به اشتباه تشخیص دهد؟
بله. این پژوهش نشان داد مدلهای هوش مصنوعی ممکن است با اطمینان بالا وجود حیات را در نمونههایی گزارش کنند که در واقع فاقد ویژگیهای لازم هستند.
در این مطالعه از چه سامانهای استفاده شد؟
پژوهشگران از نرمافزار Avida برای تولید موجودات دیجیتالی خودتکثیرشونده و آموزش شبکه عصبی استفاده کردند.
چرا این یافته برای مأموریتهای فضایی اهمیت دارد؟
زیرا بسیاری از مأموریتهای آینده برای تحلیل خودکار دادهها به هوش مصنوعی وابسته خواهند بود و تشخیص اشتباه میتواند زمان، هزینه، منابع علمی را هدر دهد.
آیا پژوهشگران مخالف استفاده از هوش مصنوعی هستند؟
خیر. آنها معتقدند هوش مصنوعی ابزار ارزشمندی است، اما نتایج آن باید با روشهای مستقل و نظارت انسانی بررسی شود.
جمعبندی
این پژوهش نشان میدهد هوش مصنوعی با وجود توانایی بالا در تحلیل دادهها، همچنان در برابر برخی الگوها آسیبپذیر است و ممکن است نتیجهای کاملاً نادرست ارائه دهد. به همین دلیل، استفاده از این فناوری در مأموریتهای فضایی، پزشکی، امنیتی، سایر حوزههای حساس باید همراه با سازوکارهای مستقل برای اعتبارسنجی نتایج باشد.
اگر به تازهترین اخبار فناوری، هوش مصنوعی، اکتشافات فضایی علاقهمند هستید، مطالب بعدی ما را نیز دنبال کنید.
