1
هنگامی که پای تکنولوژی اتومبیل به میان می‌آید، خوروهای خودران دامنه وسیعی را در بر می‌گیرند. امکانات استاندارد موجود در بسیاری از خودروهای معمولی همچون کروز کنترل هوشمند، برنامه‌های پارک دوبل و حتی سبقت اتوماتیک، به شما امکان می‌دهند که راحت روی صندلی‌تان لم داده و با اندکی دخالت و سختی، به کامپیوتر اجازه دهید رانندگی کند.
و چندان جای تعجبی ندارد که در آینده نزدیک اغلب کارخانه‌های اتومبیل سازی به فکر ماشینهایی باشند که تمامی فرآیند رانندگی را بدون دخالت شما در اختیار بگیرند. این ماشینها امن‌تر و پاک‌تر خواهند بود و از نظر مصرف سوخت هم به شکل بسیار بهینه‌تری نسبت به رقبای معمولی‌شان عمل خواهند کرد. البته همچنان نمی‌توان گفت که این ماشینها امنیت بدون عیب و نقصی را فراهم خواهند آورد.
و در این میان مشکلات بزرگی در حال ظهور است. یک اتومبیل باید به چه شکل برنامه ریزی شود تا در یک صحنه تصادف غیرقابل اجتناب تصمیم درست را بگیرد؟ آیا ماشین باید میزان مرگ و میر را به حداقل برساند، حتی اگر چنین تصمیمی به معنی قربانی کردن سرنشینانش باشد؟ یا باید به هر قیمتی از سرنشینانش محافظت کند؟ و آیا در چنین اوضاع افراطی و سختگیرانه‌ای باید به شکل رندوم و از روی شانس انتخاب کند؟
پاسخ به چنین سوالات اخلاقی بسیار مهم است، زیرا این موضوعات می‌توانند تاثیر بسیار بزرگی بر شیوه پذیرش اجتماعی ماشین های خودران داشته باشند. چه کسی ممکن است اتومبیلی بخرد که قرار است صاحبش را قربانی کند؟
آیا علم می‌تواند در این زمینه کمکی کند؟ بگذارید برای پاسخ به چنین افکار و موضوعاتی سراغ ژان فرانسوا بانفون از مدرسه اقتصاد تولوز فرانسه و دو تن از همکاران وی برویم. این اساتید می‌گویند که با همه این اوصاف، پاسخ درست یا غلطی برای چنین سوالاتی وجود ندارد، بلکه رای و نظر عمومی است که در این میان نقش مهم و حیاتی را بازی می‌کند و می‌تواند باعث پذیرش گسترده این اتومبیلها شود.
لذا آنها سعی دارند تا با استفاده از دانش جدید اخلاق تجربی به کشف رای و نظر عمومی در این زمینه بپردازند. این کار شامل عرضه معظلات اخلاقی به تعداد زیادی از شهروندان است تا بتوانند عکس‌العمل و نظرات آنها را دریابند. و نتیجه این تحقیق می‌تواند جالب و شاید قابل پیشبینی باشد. آنها می‌گویند: «نتایجی که ما به دست آوردیم، اولین تحقیق در زمینه مشکلات آزار دهنده‌ای است که به شکل روز افزونی باید به الگوریتمهای اخلاقی ماشینهای خودکار تبدیل شوند.»
ابتدا به ماهیت این معظل اخلاقی می‌پردازیم. تصور کنید که در آینده‌ای نه چندان دور شما صاحب یک ماشین خودران هستید. یک روز هنگامی که مشغول رانندگی هستید، مجموعه‌ای از اتفاقات تاسف‌بار باعث می‌شوند که ماشین شما در مسیر مستقیم تصادف اجتناب ناپذیر با ۱۰ انسان در حال عبور از جاده قرار گیرد. خب، ماشین خودران شما قادر به توقف زمان نیست، اما می تواند با کوبیدن خود وشما به دیوار، از قتل ۱۰ انسان دیگر جلوگیری کند. اگرچه این تصادف می‌تواند باعث مرگ شما (به عنوان صاحب و سرنشین اتومبیل) شود. واقعا ماشین در چنین وضعیتی چه کاری باید انجام دهد؟
یک رویکرد مواجه با این نوع مشکل، انتخاب رفتاری است که میزان مرگ و میر را به حداقل برساند. در این شکل از اندیشه، قتل یک نفر بسیار بهتر از مرگ ۱۰ نفر است.
اما چنین رویکردی می‌تواند عواقب دیگری را هم به دنبال داشته باشد. اگر تعداد خریداران ماشینهای خودران به دلیل برنامه ریزی آنها برای قربانی کردن سرنشینان رو به کاهش گذارد، آنگاه به دلیل استفاده از ماشین های معمولی، تعداد تصادفات دوباره به شکل چشم‌گیری افزایش خواهد یافت و تعداد افراد بیشتری کشته خواهند شد. و نتیجه نهایی هم یک موقعیت Catch-22 (لینک) است.
بانفون و همکارانش با پیمایش و سنجش نظرات عمومی به دنبال یافتن راهی برای این معظل اخلاقی هستند. آنها این ایده را دنبال می کنند که عموم مردم هنگامی که یک سناریو را منطبق با دیدگاه‌های خودشان ببینند، علاقه بیشتری به پذیرش آن خواهند داشت.
لذا این تیم چنین معظلات اخلاقی را با صدها نفر از کارکنان بخش ترک مکانیکی آمازون در میان گذارد تا دریابد آنها چگونه در این زمینه می‌اندیشند. شرکت کنندگان با سناریوهای گوناگونی روبرو شدند. اینکه در صورتی ماشین خودران به دیوار یا مانعی در جهتی دیگر برخورد کند، یک یا تعداد بیشتری از افراد پیاده جان سالم به در خواهند برد و اینکه در صورتی که ماشین سرنشین خود یا یک فرد پیاده را قربانی کند، افراد بیشتری نجات خواهند یافت.
و به شکل همزمان محققان بر روی جزئیات متنوعی در این معظل اخلاقی تمرکز کردند. اینکه خواه راننده انسانی یا کامپیوتر نصب شده روی اتومبیل تصمیم بگیرد که خودرو را منحرف کند، تعداد دقیق افراد پیاده نجات یافته چه تعداد باید باشد. و همچنین از شرکت کنندگان سوال شد که برای پاسخ به سوالات خودشان را جای سرنشین ماشین یا یک شخص ناشناس تصور کنند.
نتایج نهایی بسیار جالب (اگرچه غیرقابل پیشبینی) بود. به شکل عمومی مردم با این ایده موافقتند که ماشینها باید به صورتی برنامه ریزی شوند که تعداد مرگ و میر را به حداقل برسانند.
این رویکرد اخلاقی سودمندگرا قطعا قابل ستایش است، اما شرکت کنندگان در این نظرسنجی تنها از آرزوهای دور و درازشان سخن گفته‌اند. نتیجه گیری نهایی بانفون و همکارانش این است که: «شرکت کنندگان مطمئن نیستند که ماشینهای خودران در واقعیت به این صورت برنامه‌ریزی شوند. و اینکه اغلب آنها به جای تصمیم جدی برای خرید چنین ماشینهای سودمندگرایی، واقعا آرزو می کنند که دیگران با چنین ماشینهای اخلاق‌مداری به رانندگی بپردازند.»
لذا در اینجا یک پارادوکس وجود دارد. مردم با خیرخواهی هر چه بیشتر خواهان اتومبیلهایی هستند که برای نجات جان دیگران، سرنشینانش را فدا کند، اما به شرطی که خودشان مجبور به رانندگی با چنین اتومبیلهایی نباشند!
در حقیقت این گروه تحقیقاتی سریعا به این نتیجه رسید که کار آنها روشنگر قدمهای اولیه در زمینه بیش از هر چیز یک پیچ و خم اخلاقی پیچیده، ظالمانه و نامطبوع است. مشکلات دیگری که باید در مطالعات و برنامه‌های فکری آینده مورد نظر قرار گیرند، در واقع طبیعتی نامعلوم و سرزنش گرا دارند.
بانفون و همکاران می‌گویند که این مشکلات باعث ظهور سوالات بسیار مهمتری می‌شود: «آیا پذیرفتنی است که یک ماشین خودران با توجه به اینکه احتمالا زنده ماندن سرنشینان اتومبیل بسیار بیشتر از راکب یک موتورسیکلت است، برای اجتناب از تصادف با موتورسیکلت به طور ناگهانی مسیر خود را به سمت خارج از جاده منحرف کند؟ آیا هنگامی که یک کودک جزو سرنشینان اتومبیل است آیا با این توجیح که وی مدت زمان بسیار بیشتری از افراد بالغ در این دنیا زندگی خواهد کرد و همچنین احتمالا حق انتخابی برای سوار شدن به اتومبیل خودران نداشته، باید این تصمیم گیری سیستم هوشمند ماشین نسبت به حالات دیگر متفاوت باشد؟ آیا یک کارخانه باید نسخه های مختلفی از این الگوریتم اخلاقی را روی ماشینهای خودران پیاده کند و مشتریان با آگاهی کامل یکی از آنها را انتخاب کنند؟ و آیا خریدار به دلیل عواقب خطرآفرین الگوریتم انتخابی باید سرزنش شود؟»
این مشکلات و مسائل را نمی توان نادیده گرفت. این تیم تحقیقاتی می‌گوید: «از آنجایی که قرار است در آینده نزدیک میلیونها ماشین با قابلیت خودران از نتیجه‌گیریهای اخلاقی ما بهره‌مند شوند، استفاده از الگوریتمهای اخلاق گرایانه درست هیچگاه در تاریخ به این اندازه مهم و حیاتی نبوده است.»
نظر شما در خصوص شیوه عملکرد الگوریتم اخلاقی اتومبیلهای خودران چیست؟ آیا حاضرید در اتومبیلی بنشینید که بدون اختیار شما، ممکن است تصمیم به قتل‌تان بگیرد؟ فکر می‌کنید در حالت رانندگی عادی، در موقعیتهایی همچون تصویر ابتدای مطلب، شما چه تصمیمی خواهید گرفت؟
و چندان جای تعجبی ندارد که در آینده نزدیک اغلب کارخانه‌های اتومبیل سازی به فکر ماشینهایی باشند که تمامی فرآیند رانندگی را بدون دخالت شما در اختیار بگیرند. این ماشینها امن‌تر و پاک‌تر خواهند بود و از نظر مصرف سوخت هم به شکل بسیار بهینه‌تری نسبت به رقبای معمولی‌شان عمل خواهند کرد. البته همچنان نمی‌توان گفت که این ماشینها امنیت بدون عیب و نقصی را فراهم خواهند آورد.
و در این میان مشکلات بزرگی در حال ظهور است. یک اتومبیل باید به چه شکل برنامه ریزی شود تا در یک صحنه تصادف غیرقابل اجتناب تصمیم درست را بگیرد؟ آیا ماشین باید میزان مرگ و میر را به حداقل برساند، حتی اگر چنین تصمیمی به معنی قربانی کردن سرنشینانش باشد؟ یا باید به هر قیمتی از سرنشینانش محافظت کند؟ و آیا در چنین اوضاع افراطی و سختگیرانه‌ای باید به شکل رندوم و از روی شانس انتخاب کند؟
پاسخ به چنین سوالات اخلاقی بسیار مهم است، زیرا این موضوعات می‌توانند تاثیر بسیار بزرگی بر شیوه پذیرش اجتماعی ماشین های خودران داشته باشند. چه کسی ممکن است اتومبیلی بخرد که قرار است صاحبش را قربانی کند؟
آیا علم می‌تواند در این زمینه کمکی کند؟ بگذارید برای پاسخ به چنین افکار و موضوعاتی سراغ ژان فرانسوا بانفون از مدرسه اقتصاد تولوز فرانسه و دو تن از همکاران وی برویم. این اساتید می‌گویند که با همه این اوصاف، پاسخ درست یا غلطی برای چنین سوالاتی وجود ندارد، بلکه رای و نظر عمومی است که در این میان نقش مهم و حیاتی را بازی می‌کند و می‌تواند باعث پذیرش گسترده این اتومبیلها شود.
لذا آنها سعی دارند تا با استفاده از دانش جدید اخلاق تجربی به کشف رای و نظر عمومی در این زمینه بپردازند. این کار شامل عرضه معظلات اخلاقی به تعداد زیادی از شهروندان است تا بتوانند عکس‌العمل و نظرات آنها را دریابند. و نتیجه این تحقیق می‌تواند جالب و شاید قابل پیشبینی باشد. آنها می‌گویند: «نتایجی که ما به دست آوردیم، اولین تحقیق در زمینه مشکلات آزار دهنده‌ای است که به شکل روز افزونی باید به الگوریتمهای اخلاقی ماشینهای خودکار تبدیل شوند.»
ابتدا به ماهیت این معظل اخلاقی می‌پردازیم. تصور کنید که در آینده‌ای نه چندان دور شما صاحب یک ماشین خودران هستید. یک روز هنگامی که مشغول رانندگی هستید، مجموعه‌ای از اتفاقات تاسف‌بار باعث می‌شوند که ماشین شما در مسیر مستقیم تصادف اجتناب ناپذیر با ۱۰ انسان در حال عبور از جاده قرار گیرد. خب، ماشین خودران شما قادر به توقف زمان نیست، اما می تواند با کوبیدن خود وشما به دیوار، از قتل ۱۰ انسان دیگر جلوگیری کند. اگرچه این تصادف می‌تواند باعث مرگ شما (به عنوان صاحب و سرنشین اتومبیل) شود. واقعا ماشین در چنین وضعیتی چه کاری باید انجام دهد؟
یک رویکرد مواجه با این نوع مشکل، انتخاب رفتاری است که میزان مرگ و میر را به حداقل برساند. در این شکل از اندیشه، قتل یک نفر بسیار بهتر از مرگ ۱۰ نفر است.
اما چنین رویکردی می‌تواند عواقب دیگری را هم به دنبال داشته باشد. اگر تعداد خریداران ماشینهای خودران به دلیل برنامه ریزی آنها برای قربانی کردن سرنشینان رو به کاهش گذارد، آنگاه به دلیل استفاده از ماشین های معمولی، تعداد تصادفات دوباره به شکل چشم‌گیری افزایش خواهد یافت و تعداد افراد بیشتری کشته خواهند شد. و نتیجه نهایی هم یک موقعیت Catch-22 (لینک) است.
بانفون و همکارانش با پیمایش و سنجش نظرات عمومی به دنبال یافتن راهی برای این معظل اخلاقی هستند. آنها این ایده را دنبال می کنند که عموم مردم هنگامی که یک سناریو را منطبق با دیدگاه‌های خودشان ببینند، علاقه بیشتری به پذیرش آن خواهند داشت.
لذا این تیم چنین معظلات اخلاقی را با صدها نفر از کارکنان بخش ترک مکانیکی آمازون در میان گذارد تا دریابد آنها چگونه در این زمینه می‌اندیشند. شرکت کنندگان با سناریوهای گوناگونی روبرو شدند. اینکه در صورتی ماشین خودران به دیوار یا مانعی در جهتی دیگر برخورد کند، یک یا تعداد بیشتری از افراد پیاده جان سالم به در خواهند برد و اینکه در صورتی که ماشین سرنشین خود یا یک فرد پیاده را قربانی کند، افراد بیشتری نجات خواهند یافت.
و به شکل همزمان محققان بر روی جزئیات متنوعی در این معظل اخلاقی تمرکز کردند. اینکه خواه راننده انسانی یا کامپیوتر نصب شده روی اتومبیل تصمیم بگیرد که خودرو را منحرف کند، تعداد دقیق افراد پیاده نجات یافته چه تعداد باید باشد. و همچنین از شرکت کنندگان سوال شد که برای پاسخ به سوالات خودشان را جای سرنشین ماشین یا یک شخص ناشناس تصور کنند.
نتایج نهایی بسیار جالب (اگرچه غیرقابل پیشبینی) بود. به شکل عمومی مردم با این ایده موافقتند که ماشینها باید به صورتی برنامه ریزی شوند که تعداد مرگ و میر را به حداقل برسانند.
این رویکرد اخلاقی سودمندگرا قطعا قابل ستایش است، اما شرکت کنندگان در این نظرسنجی تنها از آرزوهای دور و درازشان سخن گفته‌اند. نتیجه گیری نهایی بانفون و همکارانش این است که: «شرکت کنندگان مطمئن نیستند که ماشینهای خودران در واقعیت به این صورت برنامه‌ریزی شوند. و اینکه اغلب آنها به جای تصمیم جدی برای خرید چنین ماشینهای سودمندگرایی، واقعا آرزو می کنند که دیگران با چنین ماشینهای اخلاق‌مداری به رانندگی بپردازند.»
لذا در اینجا یک پارادوکس وجود دارد. مردم با خیرخواهی هر چه بیشتر خواهان اتومبیلهایی هستند که برای نجات جان دیگران، سرنشینانش را فدا کند، اما به شرطی که خودشان مجبور به رانندگی با چنین اتومبیلهایی نباشند!
در حقیقت این گروه تحقیقاتی سریعا به این نتیجه رسید که کار آنها روشنگر قدمهای اولیه در زمینه بیش از هر چیز یک پیچ و خم اخلاقی پیچیده، ظالمانه و نامطبوع است. مشکلات دیگری که باید در مطالعات و برنامه‌های فکری آینده مورد نظر قرار گیرند، در واقع طبیعتی نامعلوم و سرزنش گرا دارند.
بانفون و همکاران می‌گویند که این مشکلات باعث ظهور سوالات بسیار مهمتری می‌شود: «آیا پذیرفتنی است که یک ماشین خودران با توجه به اینکه احتمالا زنده ماندن سرنشینان اتومبیل بسیار بیشتر از راکب یک موتورسیکلت است، برای اجتناب از تصادف با موتورسیکلت به طور ناگهانی مسیر خود را به سمت خارج از جاده منحرف کند؟ آیا هنگامی که یک کودک جزو سرنشینان اتومبیل است آیا با این توجیح که وی مدت زمان بسیار بیشتری از افراد بالغ در این دنیا زندگی خواهد کرد و همچنین احتمالا حق انتخابی برای سوار شدن به اتومبیل خودران نداشته، باید این تصمیم گیری سیستم هوشمند ماشین نسبت به حالات دیگر متفاوت باشد؟ آیا یک کارخانه باید نسخه های مختلفی از این الگوریتم اخلاقی را روی ماشینهای خودران پیاده کند و مشتریان با آگاهی کامل یکی از آنها را انتخاب کنند؟ و آیا خریدار به دلیل عواقب خطرآفرین الگوریتم انتخابی باید سرزنش شود؟»
این مشکلات و مسائل را نمی توان نادیده گرفت. این تیم تحقیقاتی می‌گوید: «از آنجایی که قرار است در آینده نزدیک میلیونها ماشین با قابلیت خودران از نتیجه‌گیریهای اخلاقی ما بهره‌مند شوند، استفاده از الگوریتمهای اخلاق گرایانه درست هیچگاه در تاریخ به این اندازه مهم و حیاتی نبوده است.»
نظر شما در خصوص شیوه عملکرد الگوریتم اخلاقی اتومبیلهای خودران چیست؟ آیا حاضرید در اتومبیلی بنشینید که بدون اختیار شما، ممکن است تصمیم به قتل‌تان بگیرد؟ فکر می‌کنید در حالت رانندگی عادی، در موقعیتهایی همچون تصویر ابتدای مطلب، شما چه تصمیمی خواهید گرفت؟
