OpenAI برای رعایت قوانین شفافیت اتحادیه اروپا، واترمارک نامرئی را به متن‌های ChatGPT و Codex اضافه می‌کند؛ این سیستم با تغییرات جزئی کلمات، محتوای هوش مصنوعی را شناسایی می‌کند.
- OpenAI در اتحادیه اروپا به متن‌های ChatGPT و Codex واترمارک نامرئی اضافه خواهد کرد.
- واترمارک با تغییرات جزئی در انتخاب کلمات، الگویی قابل تشخیص ایجاد خواهد کرد.
- ویرایش متن می‌تواند تشخیص را دشوار کند و نبود واترمارک نیز تولید انسانی متن را ثابت نمی‌کند.
OpenAI قرار است به متن‌های تولیدشده توسط ChatGPT و Codex در اتحادیه اروپا واترمارک نامرئی اضافه کند. این سیستم که می‌توان آن را واترمارک ChatGPT نامید، با تغییر جزئی در انتخاب کلمات متن کار می‌کند و امکان شناسایی محتوای تولیدشده توسط هوش مصنوعی را از طریق یک سیستم تشخیص اختصاصی فراهم می‌کند.
این شرکت اعلام کرده است که این قابلیت طی هفته‌های آینده فعال خواهد شد. هدف از این سیستم، رعایت قوانین شفافیت اتحادیه اروپا است که علامت‌گذاری محتوای تولیدشده توسط هوش مصنوعی را به شکلی قابل تشخیص برای سایر سیستم‌ها الزامی می‌کند.
واترمارک ChatGPT چرا اجرا می‌شود؟
قوانین شفافیت قانون هوش مصنوعی اتحادیه اروپا که از ۲ اوت اجرایی شده‌اند، شرکت‌های فعال در حوزه هوش مصنوعی را ملزم می‌کنند محتوای تولیدشده توسط هوش مصنوعی را به شکلی علامت‌گذاری کنند که سایر سیستم‌ها بتوانند آن را شناسایی کنند.
OpenAI اعلام کرده است که قابلیت واترمارک طی هفته‌های آینده برای کاربران واجد شرایط ChatGPT و Codex در تمام طرح‌ها ارائه خواهد شد. با این حال، این قابلیت فقط در اتحادیه اروپا فعال خواهد بود.
توسعه‌دهندگانی که از API شرکت OpenAI در هر نقطه از جهان استفاده می‌کنند نیز می‌توانند از امروز این قابلیت را برای مدل‌های مشخصی فعال کنند. در بخش API، این ویژگی به‌صورت پیش‌فرض غیرفعال خواهد بود. OpenAI اعلام کرده است که در مرحله نخست، این قابلیت به یک ویژگی پیش‌فرض در سراسر جهان تبدیل نخواهد شد.
واترمارک نامرئی ChatGPT چگونه کار می‌کند؟
واترمارک به شکل یک نماد قابل مشاهده در متن عمل نمی‌کند. در عوض، انتخاب کلمات توسط مدل به میزان بسیار کمی تغییر می‌کند. تغییرات ایجادشده برای خوانندگان قابل تشخیص نیستند اما الگویی ایجاد می‌کنند که یک سیستم تشخیص اختصاصی می‌تواند آن را شناسایی کند.
از آنجا که واترمارک مستقیماً در کلمات متن اعمال می‌شود، هنگام کپی و پیست کردن محتوا نیز می‌تواند باقی بماند. OpenAI اعلام کرده است که این واترمارک کاربران را شناسایی نمی‌کند.
این شرکت همچنین اعلام کرده است که پس از فعال شدن این قابلیت، تغییر معناداری در عملکرد مدل‌ها مشاهده نکرده است.
روش textGrain چیست؟
OpenAI هم‌زمان با این اعلام، یک گزارش فنی درباره روشی با نام textGrain منتشر کرده است. در این گزارش که پژوهشگرانی از دانشگاه پنسیلوانیا و دانشگاه ییل نیز در تهیه آن مشارکت داشته‌اند، نمونه‌ای ارائه شده که نشان می‌دهد پیش‌بینی کلمات بعدی برای تکمیل یک جمله چگونه با استفاده از یک کلید مخفی مرتب می‌شوند.
با ترکیب صدها تغییر کوچک از این نوع، سیستم تشخیص می‌تواند تنها با استفاده از متن و کلید مرتبط، مشخص کند که محتوا توسط هوش مصنوعی تولید شده است.
آیا با ویرایش متن می‌توان واترمارک را حذف کرد؟
آزمایش‌های OpenAI نشان می‌دهند که ویرایش متن می‌تواند تشخیص واترمارک را دشوارتر کند.
در یکی از آزمایش‌های این شرکت، جایگزین کردن ۱۰ درصد از کلمات با مترادف‌های آن‌ها باعث شد نرخ تشخیص از حدود ۹۲ درصد به ۶۶ درصد کاهش پیدا کند.
OpenAI همچنین اعلام کرده است که شناسایی انواع زیر از محتوا دشوارتر است:
- متن‌های کوتاه
- پاسخ‌های مربوط به مسائل ریاضی
- متن‌های ترجمه‌شده
به دلیل این محدودیت‌ها، OpenAI اعلام کرده است که در مرحله نخست تنها پژوهشگران تأییدشده و سازمان‌های متخصص به ابزار تشخیص دسترسی خواهند داشت.
به گفته این شرکت، این سازمان‌ها به ارزیابی میزان قابل اعتماد بودن سیستم و زمینه‌های استفاده مسئولانه از آن کمک خواهند کرد.
نبود واترمارک نشان نمی‌دهد متن را انسان نوشته است
OpenAI به‌طور ویژه تأکید کرده است که وجود نداشتن واترمارک در یک متن، ثابت نمی‌کند که متن توسط انسان نوشته شده است.
این موضوع می‌تواند دلایل مختلفی داشته باشد:
- متن ممکن است بسیار کوتاه باشد.
- متن ممکن است به‌شدت ویرایش شده باشد.
- متن ممکن است توسط سیستم هوش مصنوعی شرکت دیگری تولید شده باشد.
OpenAI همچنین اعلام کرده است که واترمارک‌ها تنها می‌توانند نشان دهند «بخشی از یک متن توسط سیستم OpenAI تولید یا پردازش شده است».
این سیستم نمی‌تواند مشخص کند چه مقدار از متن توسط انسان تولید شده، چه مقدار از آن ویرایش شده یا متن دقیقاً چگونه شکل گرفته است.
واترمارک ChatGPT چه چیزی را نشان می‌دهد؟
واترمارک ChatGPT یک سازوکار تشخیص برای بررسی ارتباط یک متن تولیدشده توسط هوش مصنوعی با سیستم‌های OpenAI ارائه خواهد کرد. با این حال، این سیستم به‌تنهایی نمی‌تواند ثابت کند که تمام یک متن توسط هوش مصنوعی نوشته شده یا میزان مشارکت انسان در تولید آن چقدر بوده است.
به‌ویژه ویرایش متن، کوتاه بودن آن یا تولید شدن توسط یک سیستم هوش مصنوعی دیگر می‌تواند تشخیص را دشوارتر کند.
سؤالات متداول
واترمارک ChatGPT چیست؟
واترمارک ChatGPT یک علامت نامرئی است که OpenAI با تغییر جزئی در انتخاب کلمات متن ایجاد می‌کند تا امکان شناسایی محتوای تولیدشده توسط هوش مصنوعی از طریق سیستم‌های اختصاصی فراهم شود.
آیا واترمارک ChatGPT در متن قابل مشاهده است؟
خیر. واترمارک به شکل یک نماد قابل مشاهده برای خوانندگان ظاهر نمی‌شود و از طریق تغییرات جزئی در انتخاب کلمات، یک الگو ایجاد می‌کند.
آیا با کپی و پیست کردن متن، واترمارک از بین می‌رود؟
خیر. از آنجا که واترمارک در کلمات متن اعمال می‌شود، هنگام کپی و پیست کردن نیز می‌تواند باقی بماند.
آیا ویرایش متن واترمارک را حذف می‌کند؟
ویرایش متن می‌تواند تشخیص واترمارک را دشوارتر کند. در آزمایش OpenAI، جایگزین کردن ۱۰ درصد کلمات با مترادف‌ها نرخ تشخیص را از حدود ۹۲ درصد به ۶۶ درصد کاهش داد.
آیا نبود واترمارک ثابت می‌کند متن را انسان نوشته است؟
خیر. کوتاه بودن متن، ویرایش گسترده یا تولید متن توسط یک سیستم هوش مصنوعی دیگر نیز می‌تواند باعث شود واترمارک قابل تشخیص نباشد.
جمع‌بندی
واترمارک ChatGPT سازوکار جدیدی است که OpenAI برای رعایت قوانین شفافیت هوش مصنوعی اتحادیه اروپا ارائه خواهد کرد. این سیستم به جای استفاده از یک علامت قابل مشاهده، از تغییرات جزئی در انتخاب کلمات استفاده می‌کند.
با این حال، آزمایش‌های خود OpenAI نشان می‌دهند که ویرایش متن می‌تواند دقت تشخیص را کاهش دهد. بنابراین وجود واترمارک می‌تواند نشانه‌ای از تولید متن با سیستم OpenAI باشد اما نبود آن به‌طور قطعی ثابت نمی‌کند که متن توسط انسان نوشته شده است.
برای دنبال کردن فناوری‌های جدید تشخیص محتوای تولیدشده توسط هوش مصنوعی، اخبار و تحولات دنیای فناوری را دنبال کنید.
