کارشناسان توصیه می‌کنند اطلاعات هویتی، خصوصی، پزشکی، محرمانه و مالی را با چت‌بات‌های هوش مصنوعی به اشتراک نگذارید و تنظیمات حریم خصوصی آن‌ها را بررسی کنید.
- اطلاعات هویتی، پزشکی و مالی را در اختیار چت‌بات‌های هوش مصنوعی قرار ندهید.
- اطلاعات محرمانه شرکت، کد منبع و داده‌های مشتریان را وارد چت‌بات‌ها نکنید.
- تنظیمات حریم خصوصی، تاریخچه چت و گزینه‌های مربوط به آموزش مدل را بررسی کنید.
گسترش استفاده از چت‌بات‌های هوش مصنوعی مانند ChatGPT، Gemini، Copilot و Claude نگرانی‌هایی درباره حریم خصوصی داده‌هایی که کاربران در اختیار این ابزارها قرار می‌دهند ایجاد کرده است. کارشناسان می‌گویند کاربران باید پیش از وارد کردن اطلاعات شخصی و حساس به این سرویس‌ها، بدانند چه نوع داده‌هایی ممکن است ذخیره، تحلیل یا دوباره استفاده شوند.
چت‌بات‌های هوش مصنوعی می‌توانند برای نوشتن ایمیل، دریافت اطلاعات یا حتی آماده‌سازی پرسش‌ها پیش از مراجعه به پزشک مفید باشند. با این حال، کارشناسان هشدار می‌دهند که نباید هر اطلاعاتی را در اختیار این سیستم‌ها قرار داد.
لی رینی، مدیر مرکز «تصور آینده دیجیتال» در دانشگاه Elon، در بیانیه‌ای که این دانشگاه منتشر کرده است، گفت پذیرش و استفاده از مدل‌های زبانی بزرگ یا LLM «از هر نظر شگفت‌انگیز» است. او به‌ویژه به نحوه ورود این ابزارها به زندگی اجتماعی مردم توجه کرده است.
بر اساس گزارشی که The Huffington Post منتشر کرده، نگرانی اصلی کارشناسان این است که کاربران ممکن است میزان اطلاعاتی را که چت‌بات‌ها می‌توانند نگهداری، تحلیل یا در آینده استفاده کنند، دست‌کم بگیرند.
یک پژوهش اخیر از سوی مؤسسه هوش مصنوعی انسان‌محور Stanford نیز یافته‌هایی درباره خطرات حریم خصوصی ارائه کرده است. پژوهشگران سیاست‌های حریم خصوصی شش توسعه‌دهنده بزرگ چت‌بات‌های هوش مصنوعی در آمریکا را بررسی کردند: ChatGPT متعلق به OpenAI، Gemini متعلق به Google، Claude متعلق به Anthropic، Nova متعلق به Amazon، MetaAI متعلق به Meta و Copilot متعلق به Microsoft.
در این پژوهش آمده است که هر شش شرکت، به‌صورت پیش‌فرض از مکالمات مشتریان برای «آموزش و بهبود مدل‌ها» استفاده می‌کنند و برخی از آن‌ها ممکن است این داده‌ها را به‌صورت نامحدود نگهداری کنند.
جورج کاماید، متخصص امنیت سایبری، به HuffPost گفت کاربران به اندازه کافی به این موضوع توجه نمی‌کنند که اطلاعاتی که با چت‌بات‌های هوش مصنوعی به اشتراک می‌گذارند، تا چه اندازه ممکن است «ذخیره، تحلیل و به‌طور بالقوه دوباره استفاده شود».
او توضیح داد که بسیاری از LLMها با استفاده از ورودی‌های کاربران آموزش داده می‌شوند یا تحت فرایند Fine-tuning قرار می‌گیرند. به گفته او، این موضوع می‌تواند باعث شود مکالمات به‌صورت مستقیم یا غیرمستقیم بر رفتار آینده مدل‌ها تأثیر بگذارند.
کماید همچنین هشدار داد اگر این تعاملات شامل اطلاعات شناسایی‌کننده، داده‌های حساس یا اطلاعات محرمانه باشند، ممکن است به بخشی از یک مجموعه داده تبدیل شوند که دیگر کاملاً تحت کنترل کاربر نیست. او تأکید کرد که داده‌ها در نهایت یکی از ارزشمندترین دارایی‌هایی هستند که شرکت‌های هوش مصنوعی می‌توانند از کاربران به دست آورند.
۵ نوع اطلاعاتی که نباید با ChatGPT به اشتراک گذاشت
۱. اطلاعات قابل شناسایی شخصی
اطلاعات قابل شناسایی شخصی به داده‌هایی گفته می‌شود که می‌توانند برای شناسایی یک فرد مورد استفاده قرار گیرند. این اطلاعات شامل موارد زیر است:
- نام کامل
- آدرس محل سکونت
- شماره تلفن
- شماره تأمین اجتماعی
- شماره پاسپورت
- شماره گواهینامه رانندگی
- سایر اطلاعات رسمی هویتی
جورج آل-کورا، متخصص امنیت اطلاعات، می‌گوید وارد کردن چنین اطلاعاتی در یک چت‌بات می‌تواند خطر ثبت داده‌ها یا پردازش آن‌ها به شیوه‌هایی را افزایش دهد که احتمال سوءاستفاده از اطلاعات شخصی را به همراه دارد. به همین دلیل، او توصیه می‌کند این اطلاعات با چت‌بات‌ها به اشتراک گذاشته نشوند.
فایل‌هایی که کاربران همراه با دستورهای خود بارگذاری می‌کنند نیز ممکن است برای آموزش مدل مورد استفاده قرار گیرند. برای مثال، فردی که از ChatGPT می‌خواهد به بهبود رزومه او کمک کند، بهتر است پیش از بارگذاری فایل، اطلاعات شناسایی شخصی موجود در سند را حذف کند.
۲. اطلاعات مربوط به حریم خصوصی و زندگی شخصی
افراد هنگام گفت‌وگو با چت‌بات‌های هوش مصنوعی ممکن است اطلاعات شخصی بیشتری نسبت به زمانی که در Google جست‌وجو می‌کنند، در اختیار سیستم قرار دهند. یکی از دلایل این موضوع، ماهیت تعاملی و شبیه به گفت‌وگوی انسانی این ابزارهاست.
اشلی کاسووان، مدیرعامل مرکز حکمرانی هوش مصنوعی در انجمن بین‌المللی متخصصان حریم خصوصی یا IAPP، به HuffPost گفت این ویژگی می‌تواند احساس امنیت نادرستی در کاربران ایجاد کند. به گفته او، همین مسئله ممکن است باعث شود افراد در مقایسه با یک موتور جست‌وجوی ثابت، تمایل بیشتری به اشتراک‌گذاری اطلاعات شخصی با چت‌بات‌ها داشته باشند.
اطلاعات حساسی که کاربران درباره افکار، رفتارها، وضعیت روانی یا روابط خود به اشتراک می‌گذارند، ممکن است از نظر قانونی تحت حمایت نباشند و در برخی شرایط حتی در دادگاه‌ها به‌عنوان مدرک مورد استفاده قرار گیرند.
کماید نیز گسترش استفاده از چت‌بات‌های مبتنی بر LLM به‌عنوان درمانگر، مربی زندگی و حتی نوعی «شریک نزدیک» را نگران‌کننده دانست.
۳. اطلاعات پزشکی
بر اساس یک نظرسنجی KFF در سال ۲۰۲۴، تقریباً یک‌ششم بزرگسالان حداقل ماهی یک بار برای دریافت اطلاعات یا توصیه‌های مربوط به سلامت به چت‌بات‌های هوش مصنوعی مراجعه می‌کنند.
چت‌بات‌های هوش مصنوعی می‌توانند به درک موضوعات مرتبط با سلامت کمک کنند. با این حال، کارشناسان درباره خطرات مربوط به حریم خصوصی و همچنین پرسش‌هایی درباره دقت پاسخ‌های این ابزارها هشدار می‌دهند.
کارشناسان توصیه می‌کنند اطلاعات پزشکی شخصی، از جمله سوابق مربوط به خدمات درمانی، با چت‌بات‌های هوش مصنوعی به اشتراک گذاشته نشود. اگر وارد کردن اطلاعات سلامت در یک گفت‌وگو ضروری باشد، توصیه می‌شود اطلاعات شناسایی شخصی از دستورها حذف شود.
۴. اطلاعات محرمانه یا متعلق به شرکت
استفاده از چت‌بات‌های هوش مصنوعی در محیط کار نیز نیازمند احتیاط است. آل-کورا توصیه می‌کند اطلاعات داخلی شرکت، گزارش‌ها، اطلاعات مشتریان، کدهای منبع یا هر اطلاعاتی که تحت قراردادهای محرمانگی قرار دارد، در اختیار چت‌بات‌ها قرار نگیرد.
او گفت بسیاری از پلتفرم‌های گفت‌وگوی هوش مصنوعی روی زیرساخت‌های مشترک فعالیت می‌کنند و حتی با وجود تدابیر امنیتی قدرتمند، اطلاعات واردشده ممکن است برای «توسعه مدل» ثبت شوند.
آل-کورا همچنین هشدار داد حتی یک دستور حاوی اطلاعات حساس می‌تواند به نقض تعهدات مربوط به نهادهای نظارتی یا شرایط قراردادها منجر شود.
۵. اطلاعات مالی
واحد خدمات فناوری اطلاعات دانشگاه Kentucky توصیه می‌کند اطلاعات مربوط به فیش حقوقی، حساب‌های بانکی و سرمایه‌گذاری و همچنین اطلاعات کارت‌های اعتباری با چت‌بات‌های هوش مصنوعی به اشتراک گذاشته نشوند.
در توضیح منتشرشده در وب‌سایت این دانشگاه آمده است که هوش مصنوعی می‌تواند توصیه‌های عمومی مالی ارائه کند. با این حال، برای موضوعات مربوط به امور مالی شخصی، مراجعه به یک مشاور مالی می‌تواند راه امن‌تری برای جلوگیری از خطر هک یا سوءاستفاده از داده‌ها باشد.
همین رویکرد درباره اظهارنامه‌های مالیاتی و سایر اسناد مرتبط با درآمد نیز توصیه شده است.
آدام هیز، نویسنده حوزه مالی، در مقاله‌ای که در Investopedia منتشر کرده، هشدار داده است که افشای این اسناد می‌تواند زمینه استفاده از آن‌ها برای باج‌گیری یا حملات کلاهبرداری علیه افراد یا خانواده‌هایشان را فراهم کند.
اگر این اطلاعات قبلاً با ChatGPT به اشتراک گذاشته شده باشد چه باید کرد؟
ممکن است بازگرداندن کامل اطلاعاتی که قبلاً به اشتراک گذاشته شده‌اند امکان‌پذیر نباشد. با این حال، برای کاهش آسیب‌های احتمالی می‌توان اقداماتی انجام داد.
کماید می‌گوید اگر داده‌ها وارد داده‌های آموزشی چت‌بات شده باشند، «واقعاً نمی‌توان آن‌ها را پس گرفت». با این حال، او پیشنهاد می‌کند در صورت احتمال دسترسی غیرمجاز به حساب کاربری، تاریخچه گفت‌وگوها حذف شود تا خطر استخراج اطلاعات کاهش پیدا کند.
کاربران همچنین باید از این به بعد مشخص کنند چه اطلاعاتی را حاضرند با یک چت‌بات هوش مصنوعی به اشتراک بگذارند و چه اطلاعاتی را نمی‌خواهند در اختیار آن قرار دهند.
آل-کورا پیشنهاد می‌کند مکالمات هوش مصنوعی به‌جای «دفترچه خاطرات خصوصی»، مانند «فضایی نیمه‌عمومی» در نظر گرفته شوند.
او توصیه می‌کند کاربران هنگام اشتراک‌گذاری اطلاعات، آگاهانه و محدود عمل کنند و پیش از ارسال یک پیام از خود بپرسند: «اگر همه این اطلاعات را می‌دیدند، آیا احساس ناراحتی می‌کردم؟»
چگونه تنظیمات حریم خصوصی چت‌بات‌ها را بررسی کنیم؟
کاربران می‌توانند با تغییر تنظیمات حریم خصوصی چت‌بات‌های مورد استفاده خود، برخی از خطرات مربوط به حریم خصوصی را کاهش دهند. بسته به سرویس مورد استفاده، این تنظیمات می‌توانند شامل موارد زیر باشند:
- غیرفعال کردن تاریخچه چت
- جلوگیری از استفاده از مکالمات برای آموزش مدل
- بررسی گزینه‌های مربوط به حافظه و اطلاعاتی که سیستم ذخیره یا به خاطر می‌سپارد
کاسووان می‌گوید ابزارهای مختلف هوش مصنوعی تنظیمات متفاوتی درباره اطلاعاتی که «به خاطر می‌سپارند» دارند. کاربران باید این گزینه‌ها را بررسی کنند و بر اساس ترجیحات شخصی یا سیاست‌های سازمانی که در آن فعالیت می‌کنند، تنظیمات مناسب را انتخاب کنند.
او همچنین تأکید کرد آگاهی از نحوه عملکرد این سیستم‌ها، چگونگی ذخیره داده‌ها، افرادی که ممکن است به اطلاعات دسترسی داشته باشند، نحوه انتقال داده‌ها و شرایط استفاده از آن‌ها، به کاربران کمک می‌کند تصمیم آگاهانه‌تری درباره میزان اطلاعاتی که در اختیار ابزارهای هوش مصنوعی قرار می‌دهند، بگیرند.
استفاده از اطلاعات عمومی به جای اطلاعات واقعی
آل-کورا برای کاهش احتمال افشای اطلاعات شخصی یا محرمانه هنگام نوشتن دستورها پیشنهاد می‌کند کاربران از نام‌های مستعار و عبارت‌های عمومی‌تر استفاده کنند.
برای مثال، به‌جای وارد کردن نام واقعی، شماره شناسایی یا اطلاعات دقیق یک فرد، می‌توان از یک نام مستعار و اطلاعات کلی استفاده کرد؛ البته بدون آنکه جزئیات حساس در اختیار چت‌بات قرار بگیرد.
سؤالات متداول درباره اطلاعات حساس ChatGPT
چه اطلاعاتی را نباید در ChatGPT وارد کنیم؟
اطلاعات هویتی، اطلاعات خصوصی، داده‌های پزشکی، اطلاعات محرمانه شرکت و اطلاعات مالی از مهم‌ترین داده‌هایی هستند که کارشناسان توصیه می‌کنند با چت‌بات‌های هوش مصنوعی به اشتراک گذاشته نشوند.
آیا اطلاعات پزشکی را می‌توان با چت‌بات‌های هوش مصنوعی به اشتراک گذاشت؟
کارشناسان توصیه می‌کنند اطلاعات پزشکی شخصی و سوابق درمانی وارد چت‌بات‌ها نشود. در صورت نیاز، باید اطلاعات شناسایی شخصی از متن حذف شود.
آیا فایل رزومه را می‌توان برای ویرایش به ChatGPT داد؟
کارشناسان توصیه می‌کنند پیش از بارگذاری رزومه، اطلاعات شناسایی شخصی مانند آدرس، شماره تلفن و سایر شناسه‌های حساس حذف شوند.
اگر اطلاعات حساس را قبلاً در ChatGPT وارد کرده باشیم چه کنیم؟
ممکن است حذف کامل اطلاعات از داده‌های آموزشی امکان‌پذیر نباشد. با این حال، حذف تاریخچه گفت‌وگوها، بررسی تنظیمات حریم خصوصی و جلوگیری از استفاده مکالمات برای آموزش مدل، در صورت وجود چنین گزینه‌هایی، می‌تواند برخی خطرات را کاهش دهد.
آیا می‌توان از نام مستعار در چت‌بات‌های هوش مصنوعی استفاده کرد؟
آل-کورا پیشنهاد می‌کند برای کاهش میزان اطلاعات شخصی در دستورها، از نام‌های مستعار و عبارت‌های عمومی‌تر استفاده شود.
جمع‌بندی
اطلاعات حساس ChatGPT موضوعی است که با گسترش استفاده روزمره از ابزارهای هوش مصنوعی اهمیت بیشتری پیدا کرده است. کارشناسان توصیه می‌کنند کاربران اطلاعات هویتی، خصوصی، پزشکی، محرمانه و مالی را با این سرویس‌ها به اشتراک نگذارند و پیش از ارسال هر پیام، میزان حساسیت اطلاعات موجود در آن را بررسی کنند.
بررسی تنظیمات حریم خصوصی، محدود کردن اطلاعات واردشده، حذف شناسه‌های شخصی و استفاده از نام‌های مستعار از اقداماتی است که می‌تواند به کاهش برخی خطرات کمک کند. پیش از ارسال هر اطلاعات حساس، یک سؤال ساده را از خود بپرسید: اگر این اطلاعات در اختیار افراد دیگری قرار بگیرد، آیا با آن مشکلی خواهم داشت؟
یادآوری: سیاست‌های حریم خصوصی و نحوه نگهداری داده‌ها ممکن است میان سرویس‌های مختلف هوش مصنوعی متفاوت باشد. پیش از استفاده از هر سرویس، تنظیمات و سیاست‌های مربوط به داده‌های آن را بررسی کنید.
