هوش مصنوعی می‌تواند فهم اطلاعات پزشکی را آسان‌تر کند، اما خطای آن ممکن است پیامد واقعی داشته باشد. شناخت تفاوت چت‌بات عمومی، AI پژوهشی و Medical AI تأییدشده برای استفاده ایمن ضروری است.
- چت‌بات عمومی با Medical AI تأییدشده یکسان نیست و اعتبار هر ابزار باید بر اساس کاربرد مشخص آن بررسی شود.
- AI ممکن است با اطمینان اشتباه کند و Hallucination، Bias، مشکلات حریم خصوصی و نبود شفافیت از ریسک‌های مهم آن هستند.
- تصمیم پزشکی مهم را به خروجی AI واگذار نکنید و در شرایط اورژانسی یا هنگام تغییر درمان، پزشک و خدمات پزشکی مناسب را در اولویت قرار دهید.
اگر ChatGPT یا یک ابزار هوش مصنوعی درباره بیماری، دارو یا نتیجه آزمایش اشتباه کند، پاسخ همیشه ساده نیست که «خود AI مقصر است». مسئولیت می‌تواند بسته به نوع ابزار، نحوه استفاده، نقش پزشک یا پژوهشگر، قوانین محل استفاده و شرایط تصمیم‌گیری میان چند طرف تقسیم شود.
گزارش جدید سازمان جهانی بهداشت (WHO) درباره Ethics Review and Oversight تحقیقات سلامت مبتنی بر AI که در ۲۱ سپتامبر ۲۰۲۶ معرفی شد، دقیقاً از همین زاویه اهمیت دارد: هوش مصنوعی در پژوهش سلامت فرصت‌های بزرگی ایجاد می‌کند، اما نظارت اخلاقی، شفافیت، عدالت، حریم خصوصی و پاسخ‌گویی باید هم‌زمان با فناوری پیش بروند.
گزارش جدید WHO درباره AI در تحقیقات سلامت چه می‌گوید؟
WHO در گزارش «Artificial intelligence-related health research: ethics review and oversight» سه حوزه گسترده را بررسی می‌کند: پژوهش‌های سلامت که از داده و AI استفاده می‌کنند، پژوهش‌هایی که با ابزارها و فناوری‌های AI انجام می‌شوند و پژوهش‌هایی که خود ابزارها و فناوری‌های AI موضوع مطالعه هستند.
این گزارش که در ۲۱ ژوئیه ۲۰۲۶ منتشر شده است، تأکید می‌کند که استفاده از AI می‌تواند اصول اخلاقی و حقوق بشری موجود را با چالش‌های جدید روبه‌رو کند. از جمله این چالش‌ها می‌توان به شفافیت، سوگیری، عدالت، پاسخ‌گویی، حریم خصوصی و آسیب‌های احتمالی ناشی از استفاده سریع از ابزارهای مبتنی بر AI اشاره کرد.
WHO همچنین تأکید می‌کند که کمیته‌های اخلاق پژوهش همچنان نقش مهمی در حفاظت از شرکت‌کنندگان دارند، اما ممکن است برای بررسی مطالعات پیچیده مبتنی بر AI به تخصص، آموزش و منابع بیشتری نیاز داشته باشند.
نکته مهم این است که این گزارش نمی‌گوید AI در سلامت ذاتاً ناامن است. رویکرد WHO بر این اساس است که استفاده از AI باید با سازوکارهای مناسب برای نظارت، ارزیابی ریسک، حفاظت از حقوق افراد و پاسخ‌گویی همراه باشد.
۱. اول مشخص کنید با چه نوع AI پزشکی روبه‌رو هستید
یکی از بزرگ‌ترین اشتباهات کاربران این است که همه ابزارهای هوش مصنوعی را «AI پزشکی» تصور کنند. در عمل، تفاوت مهمی میان یک چت‌بات عمومی، یک سیستم AI پژوهشی و یک ابزار پزشکی دارای مجوز وجود دارد.
چت‌بات عمومی
چت‌بات‌های عمومی برای طیف گسترده‌ای از کارها طراحی شده‌اند. می‌توانند یک اصطلاح پزشکی را توضیح دهند، مقاله‌ای را خلاصه کنند یا درباره معنای یک نتیجه آزمایش اطلاعات عمومی ارائه دهند.
اما توانایی تولید یک پاسخ روان و متقاعدکننده به معنی تشخیص پزشکی معتبر نیست. یک مدل زبانی ممکن است پاسخی بسازد که از نظر زبانی بسیار منطقی به نظر برسد، در حالی که از نظر پزشکی نادرست باشد.
AI مورد استفاده در پژوهش
در تحقیقات سلامت، AI ممکن است برای تحلیل مجموعه‌های بزرگ داده، شناسایی الگوها، پردازش تصاویر، مدل‌سازی یا توسعه و ارزیابی فناوری‌های جدید به کار رود.
این کاربرد با استفاده مستقیم از AI برای تشخیص یک بیمار تفاوت دارد. اعتبار یک مدل پژوهشی باید بر اساس طراحی مطالعه، داده‌های مورد استفاده، روش اعتبارسنجی، محدودیت‌ها و نظارت اخلاقی ارزیابی شود.
Medical AI یا ابزار پزشکی مبتنی بر AI
برخی سامانه‌های AI به‌عنوان بخشی از محصولات یا تجهیزات پزشکی توسعه یافته‌اند و در حوزه‌های مشخص تحت فرایندهای نظارتی قرار می‌گیرند. برای نمونه، سازمان غذا و داروی آمریکا (FDA) از AI و Machine Learning در برخی محصولات پزشکی و نرم‌افزارهای مورد استفاده در مراقبت سلامت پشتیبانی نظارتی دارد.
اما حتی تأیید یا مجوز یک ابزار پزشکی نیز به معنی آن نیست که AI می‌تواند بدون نظارت انسانی هر تصمیم پزشکی را بگیرد. کاربرد، محدوده استفاده، جمعیت مورد نظر و شرایطی که ابزار برای آن ارزیابی شده اهمیت دارد.
۲. مشکل Hallucination؛ چرا AI ممکن است با اطمینان اشتباه کند؟
Hallucination یا تولید اطلاعات ساختگی یکی از خطرهای مهم مدل‌های مولد AI است. مدل ممکن است یک نام دارو، نتیجه یک پژوهش، ارتباط میان علائم یا حتی یک منبع علمی را نادرست تولید کند.
مسئله فقط اشتباه بودن پاسخ نیست. شکل بیان پاسخ نیز اهمیت دارد. یک چت‌بات ممکن است اطلاعات نادرست را با جمله‌بندی بسیار مطمئن ارائه کند و کاربر تصور کند که با یک نتیجه پزشکی قطعی روبه‌رو است.
بنابراین برای اطلاعات سلامت، این قاعده ساده را در نظر بگیرید:
- پاسخ روان، نشانه درست بودن نیست.
- جزئیات زیاد، نشانه اعتبار پزشکی نیست.
- اعتمادبه‌نفس AI، جایگزین شواهد پزشکی نیست.
AI می‌تواند به شما کمک کند بفهمید یک اصطلاح پزشکی چه معنایی دارد، اما نباید صرفاً بر اساس پاسخ آن درباره تشخیص یا درمان تصمیم بگیرید.
۳. Bias؛ اگر داده‌ها سوگیرانه باشند، نتیجه هم می‌تواند سوگیرانه شود
مدل‌های AI از داده‌ها یاد می‌گیرند. اگر داده‌های آموزشی نماینده همه گروه‌های جمعیتی نباشند یا در داده‌ها سوگیری وجود داشته باشد، عملکرد ابزار ممکن است برای گروه‌های مختلف یکسان نباشد.
WHO نیز بر اهمیت عدالت و مقابله با سوگیری در AI سلامت تأکید کرده است. این مسئله به‌ویژه در کشورها و گروه‌هایی اهمیت دارد که در داده‌های پژوهشی یا توسعه فناوری کمتر نمایندگی شده‌اند.
به همین دلیل، سؤال مهم درباره یک ابزار پزشکی فقط این نیست که «دقت آن چقدر است؟» بلکه باید پرسید:
- این ابزار با چه داده‌هایی آموزش یا ارزیابی شده است؟
- برای چه جمعیتی آزمایش شده است؟
- آیا عملکرد آن در گروه‌های مختلف بررسی شده است؟
- محدودیت‌های اعلام‌شده آن چیست؟
۴. اطلاعات پزشکی شما فقط یک متن ساده نیست؛ حریم خصوصی اهمیت دارد
اطلاعات سلامت از حساس‌ترین داده‌های شخصی هستند. نتیجه آزمایش، سابقه بیماری، داروها، تصاویر پزشکی، اطلاعات ژنتیکی و جزئیات مربوط به درمان می‌توانند اطلاعات بسیار شخصی درباره یک فرد ارائه کنند.
WHO بر حفاظت از حریم خصوصی و محرمانگی داده‌های سلامت تأکید کرده و رعایت قوانین حفاظت از داده و سازوکارهای مناسب برای کنترل اطلاعات را ضروری می‌داند.
پیش از وارد کردن اطلاعات پزشکی در هر ابزار AI، بهتر است مشخص باشد:
- چه اطلاعاتی جمع‌آوری می‌شود.
- اطلاعات کجا ذخیره می‌شود.
- چه کسانی به آن دسترسی دارند.
- آیا داده‌ها برای آموزش یا بهبود سیستم استفاده می‌شوند.
- چه گزینه‌هایی برای حذف یا کنترل داده وجود دارد.
برای پرسیدن یک سؤال عمومی پزشکی، معمولاً لازم نیست نام کامل، شماره ملی، شماره پرونده، آدرس، شماره تلفن یا سایر مشخصات شناسایی‌کننده فرد را وارد کنید.
۵. Informed Consent فقط یک امضا روی کاغذ نیست
در پژوهش‌های سلامت، استفاده از AI می‌تواند مسئله رضایت آگاهانه یا Informed Consent را پیچیده‌تر کند. فرد باید تا حد معقول بداند داده‌های او برای چه هدفی استفاده می‌شوند، چه نوع فناوری در فرایند دخالت دارد و چه خطرات یا محدودیت‌هایی وجود دارد.
WHO بر اهمیت حفظ اختیار انسان، حفاظت از حریم خصوصی و دریافت رضایت آگاهانه معتبر در استفاده از داده‌های سلامت تأکید کرده است.
این موضوع فقط به پژوهشگران مربوط نمی‌شود. هرچه استفاده از AI در مراقبت سلامت بیشتر شود، بیمار نیز باید بداند چه زمانی یک سیستم AI در فرایند تصمیم‌گیری پزشکی نقش دارد.
۶. اگر AI اشتباه کند، چه کسی مسئول است؟
پاسخ به این سؤال به یک عامل مهم بستگی دارد: AI به‌تنهایی معمولاً یک طرف انسانی یا حقوقی مستقل برای پذیرش مسئولیت نیست. مسئولیت می‌تواند بر اساس نوع سیستم و نحوه استفاده از آن میان توسعه‌دهنده، ارائه‌دهنده خدمت، پزشک، پژوهشگر یا نهاد مسئول تقسیم شود.
برای مثال، اگر یک پژوهشگر از یک مدل AI برای تحلیل داده‌های یک مطالعه استفاده کند، مسئولیت اخلاقی و علمی پژوهشگر و نهاد پژوهشی همچنان مطرح است. اگر یک پزشک از یک ابزار AI در فرایند مراقبت استفاده کند، استفاده از ابزار لزوماً مسئولیت حرفه‌ای تصمیم پزشکی را از میان نمی‌برد.
در مورد یک محصول پزشکی نیز باید شرایط مجوز، کاربرد مورد تأیید، قوانین محل استفاده و نقش تولیدکننده و کاربر بررسی شود.
به همین دلیل نمی‌توان یک قاعده جهانی مانند «هر خطای AI بر عهده شرکت سازنده است» یا «هر خطای AI بر عهده پزشک است» ارائه کرد. مسئولیت حقوقی به حوزه قضایی و جزئیات هر پرونده وابسته است.
با این حال، یک اصل پزشکی و اخلاقی روشن وجود دارد: تصمیم‌های مهم سلامت نباید بدون سازوکار مشخص برای پاسخ‌گویی و نظارت انسانی به یک سیستم AI واگذار شوند.
۷. چه زمانی می‌توان از AI برای فهم بهتر اطلاعات سلامت استفاده کرد؟
AI می‌تواند نقش یک ابزار آموزشی و توضیح‌دهنده را ایفا کند. استفاده از آن برای فهم بهتر اطلاعاتی که قبلاً از پزشک یا منابع معتبر دریافت کرده‌اید، در بسیاری از موارد می‌تواند مفید باشد.
برای مثال می‌توانید از AI بخواهید:
- یک اصطلاح پزشکی پیچیده را به زبان ساده توضیح دهد.
- معنای عمومی بخش‌های مختلف یک گزارش پزشکی را توضیح دهد.
- تفاوت دو اصطلاح پزشکی را توضیح دهد.
- یک مقاله یا دستورالعمل پزشکی را خلاصه کند.
- سؤالاتی برای مطرح کردن در جلسه پزشک پیشنهاد دهد.
- دستورالعمل عمومی مصرف یا آماده‌سازی یک آزمایش را توضیح دهد، مشروط بر اینکه با دستور مرکز درمانی تطبیق داده شود.
- اطلاعات پزشکی دریافت‌شده از پزشک را به زبان ساده‌تر بازنویسی کند.
در همه این موارد، بهتر است AI را ابزار فهم اطلاعات بدانید، نه مرجع نهایی تصمیم پزشکی.
۵ موردی که نباید بدون بررسی پزشک به AI سپرد
۱. تشخیص قطعی بیماری
اگر چند علامت دارید، از AI می‌توان برای شناخت احتمالات و آماده کردن سؤال‌های پزشکی استفاده کرد، اما تشخیص قطعی باید بر اساس شرح حال، معاینه، آزمایش‌ها و ارزیابی حرفه‌ای انجام شود.
۲. علائم اورژانسی
در شرایطی مانند درد شدید یا ناگهانی قفسه سینه، دشواری شدید تنفس، کاهش سطح هوشیاری، علائم سکته مغزی، خونریزی شدید یا هر وضعیت تهدیدکننده حیات، منتظر پاسخ چت‌بات نمانید. اقدام اورژانسی و تماس با خدمات پزشکی مناسب اولویت دارد.
۳. تغییر دوز یا قطع دارو
AI نباید به‌تنهایی مبنای افزایش، کاهش یا قطع دارو قرار گیرد. تداخل دارویی، بیماری‌های زمینه‌ای، سن، عملکرد کلیه و کبد و سایر عوامل می‌توانند بر تصمیم دارویی اثر بگذارند.
۴. تصمیم درباره جراحی یا درمان جدی
انتخاب میان روش‌های درمانی مهم، جراحی، شیمی‌درمانی، پرتودرمانی یا سایر درمان‌های تخصصی به ارزیابی کامل وضعیت فرد نیاز دارد. AI می‌تواند به توضیح گزینه‌ها کمک کند، اما نباید جایگزین تیم درمان شود.
۵. شرایطی که اطلاعات ناقص یا بسیار حساس هستند
اگر تصمیم پزشکی به اطلاعاتی وابسته است که AI نمی‌تواند به‌طور کامل دریافت یا ارزیابی کند، اتکا به پاسخ آن خطرناک‌تر می‌شود. همین مسئله درباره برخی شرایط پیچیده، بیماران با چند بیماری هم‌زمان و موقعیت‌هایی که نیازمند معاینه یا آزمایش فوری هستند نیز صدق می‌کند.
پس بهترین روش استفاده از AI در سلامت چیست؟
یک روش عملی این است که نقش AI را از ابتدا مشخص کنید. اگر هدف شما فهمیدن است، سؤال را برای توضیح ساده‌تر اطلاعات مطرح کنید. اگر هدف شما تصمیم‌گیری درباره تشخیص یا درمان است، AI نباید تنها مرجع تصمیم باشد.
- از AI برای توضیح اطلاعات استفاده کنید.
- اطلاعات حساس و قابل شناسایی را تا حد امکان حذف کنید.
- منبع پزشکی پاسخ را بررسی کنید.
- برای تصمیم‌های مهم، پاسخ را با پزشک یا متخصص مربوطه تطبیق دهید.
- در صورت وجود علائم اورژانسی، از AI به‌عنوان جایگزین خدمات پزشکی فوری استفاده نکنید.
- اگر یک ابزار پزشکی تخصصی استفاده می‌کنید، محدوده کاربرد و وضعیت نظارتی آن را بررسی کنید.
شفافیت؛ بیمار باید بداند AI کجای تصمیم قرار دارد
یکی از موضوعات مهم در رویکرد WHO، شفافیت و پاسخ‌گویی است. وقتی AI در یک فرایند پژوهشی یا درمانی نقش دارد، باید مشخص باشد چه کاری انجام می‌دهد، چه محدودیت‌هایی دارد و انسان‌ها چگونه خروجی آن را بررسی می‌کنند.
این موضوع با مفهوم «انسان در حلقه تصمیم‌گیری» نیز ارتباط دارد. AI می‌تواند یک توصیه، پیش‌بینی یا تحلیل ارائه کند، اما در بسیاری از موقعیت‌های سلامت، تصمیم نهایی باید در چارچوب مسئولیت حرفه‌ای و نظارت انسانی گرفته شود.
آیا باید از AI پزشکی ترسید؟
نه. تصویر دقیق‌تر این است که AI یک فناوری با کاربردهای بسیار متنوع است و میزان خطر آن به نوع سیستم، داده‌ها، هدف استفاده، اعتبارسنجی، محیط اجرا و میزان نظارت انسانی بستگی دارد.
WHO نیز بر ظرفیت AI برای بهبود پژوهش، تشخیص، توسعه دارو، مراقبت سلامت و مدیریت نظام‌های سلامت تأکید کرده است. هم‌زمان، این سازمان خواستار حکمرانی، استانداردها و سازوکارهای اخلاقی مناسب برای کاهش خطرهاست.
بنابراین مسئله اصلی «AI خوب است یا بد؟» نیست. سؤال کاربردی‌تر این است: این ابزار برای چه کاری طراحی شده، چقدر اعتبارسنجی شده و در این تصمیم خاص چه نقشی باید داشته باشد؟
سؤالات متداول
آیا ChatGPT می‌تواند بیماری را تشخیص دهد؟
ChatGPT می‌تواند درباره علائم و بیماری‌ها اطلاعات عمومی ارائه کند، اما پاسخ آن نباید به‌عنوان تشخیص پزشکی قطعی تلقی شود.
اگر AI درباره بیماری اشتباه کند چه کسی مسئول است؟
مسئولیت به نوع ابزار، نحوه استفاده، نقش افراد و نهادهای دخیل و قوانین حوزه قضایی بستگی دارد. نمی‌توان یک مسئول واحد را برای تمام خطاهای AI تعیین کرد.
آیا می‌توان نتیجه آزمایش را به AI داد؟
برای فهم اصطلاحات و معنای عمومی یک نتیجه می‌توان از AI کمک گرفت، اما تفسیر نهایی باید با توجه به وضعیت فرد و نظر پزشک انجام شود. اطلاعات شناسایی‌کننده نیز بهتر است حذف شوند.
آیا Medical AI از ChatGPT دقیق‌تر است؟
نمی‌توان همه ابزارها را با یکدیگر مقایسه کرد. یک Medical AI ممکن است برای یک کاربرد مشخص طراحی و اعتبارسنجی شده باشد، در حالی که چت‌بات عمومی هدف گسترده‌تری دارد. عملکرد هر ابزار باید در همان کاربرد مشخص بررسی شود.
آیا AI می‌تواند جای پزشک را بگیرد؟
AI می‌تواند در برخی وظایف پزشکی و پژوهشی به متخصصان کمک کند، اما جایگزین عمومی برای تشخیص، قضاوت حرفه‌ای، معاینه و مسئولیت پزشکی نیست.
جمع‌بندی: هوش مصنوعی پزشکی را ابزار بدانید، نه مرجع نهایی
اگر هوش مصنوعی درباره بیماری اشتباه کند، پاسخ به مسئله مسئولیت به نوع فناوری و نحوه استفاده از آن بستگی دارد. مهم‌تر از این پرسش، طراحی یک فرایند ایمن است که در آن محدودیت‌های AI شناخته شود، داده‌های سلامت محافظت شوند و تصمیم‌های مهم پزشکی بدون نظارت مناسب انسانی اتخاذ نشوند.
گزارش تازه WHO درباره نظارت اخلاقی بر تحقیقات سلامت مبتنی بر AI نیز همین مسیر را دنبال می‌کند: استفاده از ظرفیت فناوری در کنار شفافیت، عدالت، حریم خصوصی، پاسخ‌گویی و نظارت مؤثر.
اگر از AI برای فهم اطلاعات پزشکی استفاده می‌کنید، سؤال‌های خود را دقیق مطرح کنید، اطلاعات شناسایی‌کننده را حذف کنید و پاسخ‌های مهم را با منابع معتبر پزشکی و متخصص مربوطه بررسی کنید.
منابع مبنا: World Health Organization، گزارش «Artificial intelligence-related health research: ethics review and oversight» منتشرشده در سال ۲۰۲۶؛ WHO Guidance on Ethics and Governance of Artificial Intelligence for Health؛ WHO Guidance on Large Multimodal Models؛ U.S. Food and Drug Administration، منابع رسمی درباره Artificial Intelligence و Medical Devices.
