1
مدتها است که روباتها جهان را به تسخیر خود در آورده‌اند. البته شاید هنوز این موضوع چندان به چشم نیاید. زیرا شکل این اتفاق به آن صورتی نیست که در داستان‌های علمی تخیلی می‌خوانیم یا آیزاک آسیموف در کتاب «من روبات هستم» به تصویر کشیده است. خیابان‌های شهر توسط روبات‌های انسان‌نما اشغال نشده‌اند، اما روباتها مدت زیادی است که مشغول انجام کارهای روزمره ما در پشت درهای بسته هستند. کارهایی که انسان‌ها به شدت از آنها دوری می‌کنند و ترجیح می‌دهند سراغ آن نروند.
اما این وضعیت به سرعت در حال تغییر است. اتومبیل های بدون راننده مدتی است به صورت آزمایشی در جاده ها و خیابان ها جولان می دهند. و اینگونه، سفر از نقطه ای به نقطه دیگر بسیار ساده و کم دردسر تر خواهد شد. اگرچه این ماشین ها توسط روبات های انسان نما در پشت فرمان کنترل نمی شوند، اما نرم افزارهایی که آنها را می رانند چالش های اخلاقی فراوانی را مطرح نموده و پیش رو دارند.
برای مثال، آیا در یک تصادف غیرقابل اجتناب، این روبات-ماشین جان شما را نجات خواهد داد؟ یا اینکه قرار است برای نجات زندگی دیگران، شما را به کشتن دهد؟
مجوز قتل؟
به این آزمایش فکری توجه کنید: شما تک و تنها سوار یک ماشین خودکار بدون راننده در جاده یک طرفه کوهستانی در حال حرکت هستید. به سرعت به تونل باریکی نزدیک می شوید. لحظاتی قبل از ورود به تونل کودکی به میان جاده آمده و در مکانی می ایستد که ورودی تونل کاملا مسدود می شود. اکنون روبات کنترلگر اتومبیل دو گزینه پیش رو دارد: به کودک زده و او را بکشد، یا اینکه اتومبیل را به دیواره تونل زده و باعث قتل شما شود.
هر دو نتیجه کاملا نپذیرفتنی و زیان آور هستند. و در نگاه اول، از نقطه نظر تفکر منطقی هیچ پاسخ «صحیحی» برای این مسئله غامض و پیچیده قابل تصور نیست. «مشکل تونل» را می توان یک گزینه خوب در زمینه آزمایش فکری دانست، زیرا پاسخ به آن بسیار سخت و پیچیده است.
مشکل تونل همچنین به یک چالش طراحی قریب الوقوع اشاره می کند که حتما اتفاق خواهد افتاد. و البته سوالاتی را هم در پی دارد: اتومبیل های بدون راننده را چگونه برنامه ریزی و تولید کنیم تا در موقعیت های فکری چنین پیچیده ای به درستی عمل کرده و تصمیم صحیح را بگیرند؟ و البته سوال جذاب تر این است که: چه کسی باید در خصوص عملکرد اتومبیل در چنین شرایط دشواری تصمیم گیری کند؟ انسان یا ماشین؟
در نگاه اول سوال دوم (چه کسی) بسیار عجیب و غریب به نظر می رسد. آیا اطمینان دارید که این وظیفه طراحان است تا ماشین را برای عکس العمل مناسب در چنین موقعیت هایی برنامه ریزی کنند؟ چندان مطمئن نیستیم.
از دیدگاه راننده، مشکل تونل بسیار بیشتر از یک مساله و ایراد طراحی پیچیده و غامض است. این یک تصمیم بسیار موثر در خصوص پایان دادن به زندگی است! مسئله تونل سوالات فلسفی و اخلاقی بسیار عمیقی را مطرح می کند که روی سخن آنها مستقیما با راننده است.
اینکه به طراحان اجازه دهیم یک نتیجه و پی آمد مشخص را برای مسائلی همانند تونل انتخاب کنند و به عنوان راه حل عرضه نمایند، مستلزم این است که مطمئن باشیم چنین مسائل پیچیده ای یک «جواب درست» دارند که می تواند در تمامی موقعیت های مشابه هم اعمال شود. اما در واقعیت اینگونه نیست. آیا همیشه بهترین انتخاب اتومبیل این است که کودک را زیر بگیرد؟ آیا ماشین همیشه باید راننده را قربانی کند؟ اگر تلاش کنیم یک پاسخ مناسب را برای تمامی موقعیت ها به خدمت گیریم، این جواب کاملا مستبدانه خواهد بود.
برای راه حل مناسب بهتر است به نمونه های دیگری از موقعیت های تصمیم گیری بر اساس تفکرات اخلاقی پیچیده نگاهی بیندازیم و آنگاه به دنبال سوال «چه کسی» برویم.
سوال از استاد اخلاقیات
متخصصان بهداشت و درمان گاه و بیگاه به بحث در خصوص حق انتخاب بیماران در زمینه پایان دادن به زندگی می پردازند. از نقطه نظر اخلاق پزشکی، این یک موضوع کاملا شخصی و منحصر به فرد در هر مورد است و کسانی که درگیر آن هستند، مستقیما با سوالات اخلاقی برای تصمیم گیری در خصوص نتایج ممکن و قابل ترجیح درگیر هستند. برای مثال وقتی با تشخیص طبی سرطان مواجه هستیم، تصمیم و انتخاب در خصوص انجام یا عدم انجام شیمی درمانی منحصرا در اختیار بیمار است. پزشکان و پرستارها آموزش دیده اند که به استقلال بیمار احترام بگذارند و خود را با دلایل بیمار برای تصمیماتش وفق دهند.
درخواست استقلال فردی کاملا قابل درک و پذیرفتنی است. حال چرا فرد دیگری باید در تصمیمات شخص دیگری در زمینه سوالات اخلاقی بسیار عمیق شخصی، همچون تصمیمات پایان دهنده زندگی هنگام رانندگی، دخالت کند؟ در حالی که خود افراد در زمینه چنین تصمیم گیری هایی از هر فرد دیگری لایق تر و دارای صلاحیت بیشتری هستند.
از دیدگاه اخلاق گرایانه، اگر شما به طراحان اجازه دهید که چگونگی عکس العمل اتومبیل در مساله تونل را انتخاب کنند، در حقیقت این ریسک وجود دارد که حقوق شخصی رانندگان را زیر پا گذارده و با طراحی تان نقش آقا بالاسری و پدر مآبانه را بر عهده بگیربد: در اینجا دیگر ماشینها به کارایی و جزئیات استقلال فردی رانندگان در چنین موقعیت های اخلاقی عمیقا فردی، احترامی نمی گذارند.
از این نقطه نظر، کاملا مشخص است که با ورود ماشین های بدون راننده سوالات اخلاقی شخصی و وابسته به فرد بسیار عمیقی مطرح می شوند که بایستی توسط رانندگان پاسخ داده شوند. برخی نظرسنجی ها نشان می دهند که اگر طراحان چنین اختیارات اخلاقی را برای خود قائل باشند، این ریسک وجود دارد که تکنولوژی روز به روز از اخلاقیات فاصله گرفته و یا حداقل اینکه کمتر مورد اعتماد کاربران باشد.
و از نظر بهداشت و درمان، طراحان و مهندسان لازم است که محدودیت های اختیارات اخلاقی خود را به خوبی شناخته و راه هایی را برای کنار آمدن با استقلال کاربر در موقعیتهای بغرنج اخلاقی و معنوی پیدا کنند. کاربران باید اجازه داشته باشند تا برخی تصمیمات منطقی و فکری را خودشان اخذ کرده و با مسئولیت خودشان به اجرا گذارند.
هیچ یک از این موارد، طراحی اتومبیل های بدون راننده را ساده تر نمی کند. اما تولید تکنولوژی که کاملا قابل استفاده و کاربر پسند باشد، نیازمند این است که قبل از هر چیزی به ملاحظات اخلاقی نهفته در پس آن توجه نشان دهیم و در طراحی از هر دو منظر قابلیت اعتماد (ایمنی) و اخلاق مدارانه بودن، دقت نظر لازم را داشته باشیم.
شاید در آینده باید به این سمت حرکت کنیم که کاربران قادر باشند هنگام استفاده از تکنولوژی به شکل قابل قبول و مناسبی استقلال فردی خود را بیازمایند. هنگامی که روبات باید یکی را بکشد، دلایل بسیار خوبی وجود دارد که چرا طراحان نباید انتخاب گر قربانی ها باشند!
نظر شما در این خصوص چیست؟ آیا در مساله تونل باید انتخاب قربانی با راننده باشد؟ یا اینکه روبات-ماشین به منطقی ترین شکل ممکن (و نه الزاما اخلاق گرایانه ترین صورت) در این خصوص تصمیم گیری کند؟
اما این وضعیت به سرعت در حال تغییر است. اتومبیل های بدون راننده مدتی است به صورت آزمایشی در جاده ها و خیابان ها جولان می دهند. و اینگونه، سفر از نقطه ای به نقطه دیگر بسیار ساده و کم دردسر تر خواهد شد. اگرچه این ماشین ها توسط روبات های انسان نما در پشت فرمان کنترل نمی شوند، اما نرم افزارهایی که آنها را می رانند چالش های اخلاقی فراوانی را مطرح نموده و پیش رو دارند.
برای مثال، آیا در یک تصادف غیرقابل اجتناب، این روبات-ماشین جان شما را نجات خواهد داد؟ یا اینکه قرار است برای نجات زندگی دیگران، شما را به کشتن دهد؟
مجوز قتل؟
به این آزمایش فکری توجه کنید: شما تک و تنها سوار یک ماشین خودکار بدون راننده در جاده یک طرفه کوهستانی در حال حرکت هستید. به سرعت به تونل باریکی نزدیک می شوید. لحظاتی قبل از ورود به تونل کودکی به میان جاده آمده و در مکانی می ایستد که ورودی تونل کاملا مسدود می شود. اکنون روبات کنترلگر اتومبیل دو گزینه پیش رو دارد: به کودک زده و او را بکشد، یا اینکه اتومبیل را به دیواره تونل زده و باعث قتل شما شود.
هر دو نتیجه کاملا نپذیرفتنی و زیان آور هستند. و در نگاه اول، از نقطه نظر تفکر منطقی هیچ پاسخ «صحیحی» برای این مسئله غامض و پیچیده قابل تصور نیست. «مشکل تونل» را می توان یک گزینه خوب در زمینه آزمایش فکری دانست، زیرا پاسخ به آن بسیار سخت و پیچیده است.
مشکل تونل همچنین به یک چالش طراحی قریب الوقوع اشاره می کند که حتما اتفاق خواهد افتاد. و البته سوالاتی را هم در پی دارد: اتومبیل های بدون راننده را چگونه برنامه ریزی و تولید کنیم تا در موقعیت های فکری چنین پیچیده ای به درستی عمل کرده و تصمیم صحیح را بگیرند؟ و البته سوال جذاب تر این است که: چه کسی باید در خصوص عملکرد اتومبیل در چنین شرایط دشواری تصمیم گیری کند؟ انسان یا ماشین؟
در نگاه اول سوال دوم (چه کسی) بسیار عجیب و غریب به نظر می رسد. آیا اطمینان دارید که این وظیفه طراحان است تا ماشین را برای عکس العمل مناسب در چنین موقعیت هایی برنامه ریزی کنند؟ چندان مطمئن نیستیم.
از دیدگاه راننده، مشکل تونل بسیار بیشتر از یک مساله و ایراد طراحی پیچیده و غامض است. این یک تصمیم بسیار موثر در خصوص پایان دادن به زندگی است! مسئله تونل سوالات فلسفی و اخلاقی بسیار عمیقی را مطرح می کند که روی سخن آنها مستقیما با راننده است.
اینکه به طراحان اجازه دهیم یک نتیجه و پی آمد مشخص را برای مسائلی همانند تونل انتخاب کنند و به عنوان راه حل عرضه نمایند، مستلزم این است که مطمئن باشیم چنین مسائل پیچیده ای یک «جواب درست» دارند که می تواند در تمامی موقعیت های مشابه هم اعمال شود. اما در واقعیت اینگونه نیست. آیا همیشه بهترین انتخاب اتومبیل این است که کودک را زیر بگیرد؟ آیا ماشین همیشه باید راننده را قربانی کند؟ اگر تلاش کنیم یک پاسخ مناسب را برای تمامی موقعیت ها به خدمت گیریم، این جواب کاملا مستبدانه خواهد بود.
برای راه حل مناسب بهتر است به نمونه های دیگری از موقعیت های تصمیم گیری بر اساس تفکرات اخلاقی پیچیده نگاهی بیندازیم و آنگاه به دنبال سوال «چه کسی» برویم.
سوال از استاد اخلاقیات
متخصصان بهداشت و درمان گاه و بیگاه به بحث در خصوص حق انتخاب بیماران در زمینه پایان دادن به زندگی می پردازند. از نقطه نظر اخلاق پزشکی، این یک موضوع کاملا شخصی و منحصر به فرد در هر مورد است و کسانی که درگیر آن هستند، مستقیما با سوالات اخلاقی برای تصمیم گیری در خصوص نتایج ممکن و قابل ترجیح درگیر هستند. برای مثال وقتی با تشخیص طبی سرطان مواجه هستیم، تصمیم و انتخاب در خصوص انجام یا عدم انجام شیمی درمانی منحصرا در اختیار بیمار است. پزشکان و پرستارها آموزش دیده اند که به استقلال بیمار احترام بگذارند و خود را با دلایل بیمار برای تصمیماتش وفق دهند.
درخواست استقلال فردی کاملا قابل درک و پذیرفتنی است. حال چرا فرد دیگری باید در تصمیمات شخص دیگری در زمینه سوالات اخلاقی بسیار عمیق شخصی، همچون تصمیمات پایان دهنده زندگی هنگام رانندگی، دخالت کند؟ در حالی که خود افراد در زمینه چنین تصمیم گیری هایی از هر فرد دیگری لایق تر و دارای صلاحیت بیشتری هستند.
از دیدگاه اخلاق گرایانه، اگر شما به طراحان اجازه دهید که چگونگی عکس العمل اتومبیل در مساله تونل را انتخاب کنند، در حقیقت این ریسک وجود دارد که حقوق شخصی رانندگان را زیر پا گذارده و با طراحی تان نقش آقا بالاسری و پدر مآبانه را بر عهده بگیربد: در اینجا دیگر ماشینها به کارایی و جزئیات استقلال فردی رانندگان در چنین موقعیت های اخلاقی عمیقا فردی، احترامی نمی گذارند.
از این نقطه نظر، کاملا مشخص است که با ورود ماشین های بدون راننده سوالات اخلاقی شخصی و وابسته به فرد بسیار عمیقی مطرح می شوند که بایستی توسط رانندگان پاسخ داده شوند. برخی نظرسنجی ها نشان می دهند که اگر طراحان چنین اختیارات اخلاقی را برای خود قائل باشند، این ریسک وجود دارد که تکنولوژی روز به روز از اخلاقیات فاصله گرفته و یا حداقل اینکه کمتر مورد اعتماد کاربران باشد.
و از نظر بهداشت و درمان، طراحان و مهندسان لازم است که محدودیت های اختیارات اخلاقی خود را به خوبی شناخته و راه هایی را برای کنار آمدن با استقلال کاربر در موقعیتهای بغرنج اخلاقی و معنوی پیدا کنند. کاربران باید اجازه داشته باشند تا برخی تصمیمات منطقی و فکری را خودشان اخذ کرده و با مسئولیت خودشان به اجرا گذارند.
هیچ یک از این موارد، طراحی اتومبیل های بدون راننده را ساده تر نمی کند. اما تولید تکنولوژی که کاملا قابل استفاده و کاربر پسند باشد، نیازمند این است که قبل از هر چیزی به ملاحظات اخلاقی نهفته در پس آن توجه نشان دهیم و در طراحی از هر دو منظر قابلیت اعتماد (ایمنی) و اخلاق مدارانه بودن، دقت نظر لازم را داشته باشیم.
شاید در آینده باید به این سمت حرکت کنیم که کاربران قادر باشند هنگام استفاده از تکنولوژی به شکل قابل قبول و مناسبی استقلال فردی خود را بیازمایند. هنگامی که روبات باید یکی را بکشد، دلایل بسیار خوبی وجود دارد که چرا طراحان نباید انتخاب گر قربانی ها باشند!
نظر شما در این خصوص چیست؟ آیا در مساله تونل باید انتخاب قربانی با راننده باشد؟ یا اینکه روبات-ماشین به منطقی ترین شکل ممکن (و نه الزاما اخلاق گرایانه ترین صورت) در این خصوص تصمیم گیری کند؟
