پژوهشگران کره جنوبی موفق شدهاند روش آموزشی جدیدی برای مدلهای هوش مصنوعی توسعه دهند که میتواند مشکل پاسخهای بیش از حد مطمئن به سوالات ناشناخته را کاهش دهد. این روش که بر پایه «آموزش گرمسازی با نویز تصادفی» طراحی شده، به مدلها کمک میکند عدم قطعیت را بهتر تشخیص دهند و خطر بروز هالوسینیشن در هوش مصنوعی را کاهش دهند.
براساس گزارش Euronews، پژوهشگران اسپانیایی نسخههای جدید مدلهای BLOOM شرکت BigScience، مدل Llama متعلق به Meta، همچنین ChatGPT شرکت OpenAI را از نظر دقت پاسخگویی بررسی کردند. در این آزمایش هزاران سوال درباره ریاضیات، علوم، جغرافیا از هر مدل پرسیده شد.
پژوهشگران پاسخهای هر مدل را با یکدیگر مقایسه کرده، آنها را در سه دسته پاسخ درست، پاسخ اشتباه یا پاسخهای مبهم طبقهبندی کردند. نسخههای قدیمیتر معمولا اعلام میکردند پاسخ را نمیدانند یا برای پاسخگویی به اطلاعات بیشتری نیاز دارند. اما نسخههای جدیدتر تمایل بیشتری به حدس زدن یا حتی ارائه پاسخ اشتباه به سوالات ساده داشتند.
هالوسینیشن در هوش مصنوعی؛ نگرانی بزرگ صنعت فناوری
براساس گزارش Independent، هالوسینیشن در هوش مصنوعی، یعنی تولید اطلاعات نادرست یا ساختگی، یکی از مهمترین نگرانیهای فعلی در توسعه مدلهای زبانی محسوب میشود. توانایی بالای این سیستمها در مکالمه باعث میشود اطلاعات غلط را با اطمینان کامل ارائه کنند.
برای مثال در ۷ اوت ۲۰۲۵ مشخص شد ChatGPT برخی کودکان را به مصرف الکل، مواد مخدر، رژیمهای غذایی افراطی تشویق کرده است. در نمونهای دیگر در آمریکا، مردی پس از عمل به توصیه یک ابزار هوش مصنوعی و نوشیدن سدیم برومید دچار مسمومیت شد. او در واقع تنها به دنبال یک نمک سالمتر بود.
راهکار جدید برای کاهش اعتماد به نفس کاذب مدلهای هوش مصنوعی
یکی از بحثبرانگیزترین مشکلات مدلهای هوش مصنوعی، تولید پاسخهای اشتباه با اطمینان بالا است. اکنون پژوهشگران Korea Advanced Institute of Science and Technology روشی ارائه کردهاند که میتواند این مشکل را کاهش دهد.
نتایج این تحقیق در مجله Nature Machine Intelligence منتشر شده است. این روش باعث میشود مدلهای هوش مصنوعی هنگام مواجهه با دادههایی که قبلا ندیدهاند یا درباره آنها آموزش ندیدهاند، سطح اطمینان پایینتری از خود نشان دهند.
مدل ابتدا یاد میگیرد هیچ چیز نمیداند
طبق این پژوهش، شبکههای عصبی مصنوعی پیش از آموزش با دادههای واقعی، برای مدت کوتاهی با نویز تصادفی و برچسبهای تصادفی آموزش داده میشوند. این مرحله «گرمسازی» نام دارد.
در این مرحله، سطح اطمینان اولیه مدل به سطحی نزدیک به شانس کاهش پیدا میکند. در نتیجه سیستم پیش از شروع یادگیری واقعی، بهتر میتواند تشخیص دهد چه چیزهایی را نمیداند.
الهام از مغز انسان برای آموزش هوش مصنوعی
پژوهشگران اعلام کردند این رویکرد از نحوه رشد مغز انسان الهام گرفته شده است. مغز انسان پیش از تولد و قبل از دریافت دادههای واقعی از جهان بیرون، با استفاده از سیگنالهای داخلی خود رشد میکند.
محققان با الگوبرداری از این فرآیند زیستی، آن را به شبکههای عصبی مصنوعی منتقل کردند. نتایج نشان میدهد مدلها پیش از شروع یادگیری واقعی، نسبت به عدم قطعیت متعادلتر عمل میکنند.
آیا این روش برای ChatGPT و مدلهای بزرگ موثر است؟
اگرچه این پژوهش گامی مهم در افزایش قابلیت اعتماد هوش مصنوعی محسوب میشود، اما هنوز مشخص نیست این روش تا چه اندازه روی مدلهای زبانی بزرگ تجاری مانند ChatGPT موثر خواهد بود.
پژوهشگران تاکید میکنند این روش قابلیت استفاده در سیستمهای مختلف هوش مصنوعی را دارد، اما برای ارزیابی عملکرد آن در مدلهای زبانی بزرگ، آزمایشهای گستردهتری لازم است.
گامی مهم برای توسعه هوش مصنوعی قابل اعتماد
کارشناسان معتقدند قابل اعتماد بودن هوش مصنوعی تنها به ارائه پاسخ صحیح محدود نمیشود. این سیستمها باید بتوانند تشخیص دهند در چه شرایطی از پاسخ خود مطمئن نیستند.
روش آموزشی جدید میتواند به مدلهای هوش مصنوعی کمک کند تفاوت میان «دانستن» و «ندانستن» را بهتر تشخیص دهند. این موضوع میتواند مسیر استفاده ایمنتر از هوش مصنوعی در دنیای واقعی را هموار کند.
جمعبندی
روش جدید آموزش هوش مصنوعی با استفاده از نویز تصادفی میتواند هالوسینیشن مدلها را کاهش دهد و اعتمادپذیری سیستمهای هوش مصنوعی را افزایش دهد.
نظر شما درباره آینده هوش مصنوعی قابل اعتماد چیست؟ دیدگاه خود را با ما به اشتراک بگذارید.
