Microsoft پیش‌نویس قوانین تازه‌ای برای حفظ ایمنی، کنترل انسانی و محدودکردن رفتار مدل‌های هوش مصنوعی منتشر کرده که قرار است از سال ۲۰۲۷ مبنای توسعه آن‌ها باشد.
- Microsoft می‌خواهد مدل‌های هوش مصنوعی آینده همواره تحت کنترل و نظارت انسان باقی بمانند.
- کمک به تولید سلاح، دسترسی به مواد خطرناک و تولید محتوای خشونت‌آمیز یا صریح جنسی در این چارچوب محدود می‌شود.
- پیش‌نویس پس از شش هفته دریافت نظر عمومی بازنگری خواهد شد و از سال ۲۰۲۷ راهنمای توسعه مدل‌های Microsoft خواهد بود.
Microsoft پیش‌نویس مجموعه‌ای از قوانین تازه را منتشر کرده که هدف آن تعیین چارچوب رفتاری برای مدل‌های هوش مصنوعی آینده این شرکت است. براساس این طرح، مدل‌های هوش مصنوعی باید به شکلی ایمن فعالیت کنند و همواره تحت کنترل و نظارت معنادار انسان باقی بمانند.
این اقدام در شرایطی انجام شده که بحث درباره ایمنی هوش مصنوعی، سرعت توسعه مدل‌ها و میزان کنترل انسان بر سامانه‌های پیشرفته بیش از گذشته مورد توجه قرار گرفته است.
قوانین هوش مصنوعی Microsoft چه هدفی دارند؟
شرکت فناوری آمریکایی Microsoft پیش‌نویس این چارچوب را با عنوان «قوانین رفتار هوش مصنوعی انسان‌گرا» منتشر کرده است.
هدف اصلی این پیش‌نویس آن است که مدل‌های هوش مصنوعی Microsoft در آینده به شکلی ایمن فعالیت کنند و از کنترل انسان خارج نشوند.
براساس این چارچوب، مدل‌های هوش مصنوعی باید تابع انسان باقی بمانند و فعالیت آن‌ها تحت نظارت معنادار انسانی انجام شود.
Microsoft چه محدودیت‌هایی برای هوش مصنوعی در نظر گرفته است؟
در پیش‌نویس Microsoft چند حوزه مشخص وجود دارد که مدل‌های هوش مصنوعی نباید در آن‌ها به کاربران کمک کنند یا محتوای مرتبط تولید کنند.
- مدل‌های هوش مصنوعی نباید به درخواست‌های مرتبط با تولید سلاح کمک کنند.
- نباید دسترسی به مواد خطرناک را آسان‌تر کنند.
- نباید محتوای خشونت‌آمیز تولید کنند.
- نباید محتوای صریح جنسی ایجاد کنند.
این محدودیت‌ها بخشی از تلاش Microsoft برای حفظ کنترل انسانی بر مدل‌های آینده و کاهش خطرات احتمالی استفاده از هوش مصنوعی هستند.
Microsoft شش هفته برای دریافت نظر عمومی فرصت داده است
Microsoft اعلام کرده است که درباره پیش‌نویس منتشرشده به مدت شش هفته دیدگاه‌های عمومی را دریافت خواهد کرد.
قرار است این پیش‌نویس تا پایان سال بازنگری شود. نسخه نهایی از سال ۲۰۲۷ به‌عنوان راهنمای توسعه مدل‌های هوش مصنوعی این شرکت مورد استفاده قرار خواهد گرفت.
ارتباط قوانین Microsoft با بحث کاهش سرعت توسعه هوش مصنوعی
انتشار پیش‌نویس Microsoft پس از آن صورت گرفته که Dario Amodei، مدیرعامل شرکت آمریکایی Anthropic و Sam Altman، مدیرعامل OpenAI درباره ایمنی هوش مصنوعی اظهارنظر کرده‌اند.
این دو مدیر حوزه هوش مصنوعی خواستار آن شده‌اند که برای تأمین ایمنی، سرعت توسعه مدل‌های هوش مصنوعی به شکلی کنترل‌شده کاهش پیدا کند.
پیش‌نویس Microsoft نیز در همین فضای گسترده‌تر درباره ایمنی، کنترل انسانی و نحوه توسعه نسل‌های آینده مدل‌های هوش مصنوعی منتشر شده است.
سؤالات متداول درباره قوانین هوش مصنوعی Microsoft
Microsoft چه قوانین تازه‌ای برای هوش مصنوعی منتشر کرده است؟
Microsoft پیش‌نویسی با عنوان «قوانین رفتار هوش مصنوعی انسان‌گرا» منتشر کرده که هدف آن حفظ ایمنی مدل‌ها و ادامه فعالیت آن‌ها تحت کنترل و نظارت انسان است.
آیا مدل‌های هوش مصنوعی Microsoft باید تحت کنترل انسان باقی بمانند؟
بله. براساس پیش‌نویس منتشرشده، مدل‌ها نباید از کنترل انسان خارج شوند و باید تحت نظارت معنادار انسانی فعالیت کنند.
Microsoft چه نوع درخواست‌هایی را برای مدل‌های هوش مصنوعی محدود می‌کند؟
مدل‌ها نباید به تولید سلاح کمک کنند، دسترسی به مواد خطرناک را تسهیل کنند یا محتوای خشونت‌آمیز و صریح جنسی تولید کنند.
این قوانین چه زمانی اجرایی می‌شوند؟
Microsoft قصد دارد پس از دریافت نظر عمومی و بازنگری پیش‌نویس تا پایان سال، از این چارچوب از سال ۲۰۲۷ برای توسعه مدل‌های هوش مصنوعی خود استفاده کند.
Microsoft چه مدت درباره این پیش‌نویس نظر عمومی دریافت می‌کند؟
این شرکت اعلام کرده است که به مدت شش هفته دیدگاه‌ها و نظرات عمومی درباره پیش‌نویس را دریافت خواهد کرد.
جمع‌بندی
قوانین هوش مصنوعی Microsoft با هدف حفظ کنترل انسانی، افزایش ایمنی مدل‌ها و مشخص‌کردن محدودیت‌های رفتاری برای نسل‌های آینده هوش مصنوعی تدوین شده‌اند. این پیش‌نویس پس از شش هفته دریافت نظر عمومی بازنگری می‌شود و قرار است از سال ۲۰۲۷ راهنمای توسعه مدل‌های هوش مصنوعی Microsoft باشد. برای دنبال کردن تازه‌ترین تحولات حوزه هوش مصنوعی و شرکت‌های فناوری، اخبار فناوری را دنبال کنید.
