Menu


اخلاق هوش مصنوعی | مسئله تراموا


چالش اخلاق در هوش مصنوعی

یکی از مباحث مهم در تصمیم گیری، موضوع سلسله مراتب ارزش‌هاست.

ما علاوه بر درسی که مستقیماً به سلسله مراتب ارزش‌ها در کار و زندگی پرداخته‌ایم، یک بار هم به شکل غیرمستقیم در فایل صوتی تصمیم گیری در قالب مسئله‌ی قطار و سوزن‌بان به آن اشاره کردیم.

هم‌چنین به این نکته هم اشاره کرده‌ایم که تعیین ارزش‌ها چندان دشوار نیست؛ بلکه دشواری واقعی در تعیین سلسله مراتب ارزش‌هاست.

بسیاری از ما معتقدیم که در هر شرایطی باید از دروغ‌گویی اجتناب کرد. اما وقتی می‌خواهیم بین دروغ‌گفتن به اعضای خانواده و دروغ‌گفتن به همکار یکی را انتخاب کنیم، دیگر اصل مسئله از بین می‌رود و سوال‌، به انتخاب میان بد و بدتر تبدیل می‌شود.

مشابه همین مسئله قتل انسان‌ها است که هر انسان سالمی، نسبت به آن موضع مخالف می‌گیرد. اما می‌بینیم که در تمام نبردهای تاریخ، وقتی انتخاب به یکی از دو گزینه‌ی کشتن و کشته‌شدن می‌رسد، اصل مسئله رنگ می‌بازد.

به همین علت است که مسئله‌ی واگن به یک مسئله‌ی کلاسیک در تصمیم‌گیری تبدیل شده است: این مسئله، به جای این‌که از شما بخواهد ارزش‌های خود را اعلام کنید، شما را وادار می‌کند جایگاه ارزش‌ها را نسبت به یکدیگر مقایسه کرده و درباره‌ی اهمیت آن‌ها تصمیم بگیرید.

با جستجوی عبارت Trolley Problem یا مسئله ترموا در گوگل، می‌توانید فهرستی طولانی از مقاله‌ها و مطالب را ببینید که به شکل‌های مختلف به این انتخاب دوگانه (و در واقع اولویت‌بندی ارزش‌ها) پرداخته‌اند. ماکس بیزرمن هم در بخش‌هایی از کتاب مدیران و چالش های تصمیم گیری از روایت‌های مختلف مسئله ترامو برای بیان حرف‌ها و ایده‌های خود استفاده می‌کند.

مسئله تراموا - نمونه‌ای از اخلاق هوش مصنوعی

محدودیت در دسترسی کامل به این درس

دوست عزیز.

دسترسی کامل به این درس برای کاربران ویژه متمم در نظر گرفته شده است.

با عضویت به عنوان کاربر ویژه‌ی متمم، علاوه بر دسترسی به این مطلب، به سایر بحث‌هایی هم که تحت عنوان تصمیم گیری و حل مسئله مطرح می‌شوند دسترسی پیدا می‌کنید.

همچنین با فعال کردن اشتراک ویژه به درس‌های بسیار بیشتری دسترسی پیدا می‌کنید که می‌توانید فهرست آنها را در اینجا ببینید:

 فهرست درس‌های مختص کاربران ویژه متمم

البته از میان درس‌ها و مطالب مطرح شده، ما فکر می‌کنیم شاید بهتر باشد ابتدا مطالعه‌ی مباحث زیر را در اولویت قرار دهید:

  تفکر سیستمی

  مهارت یادگیری

  مدل ذهنی

  دوره MBA (پیگیری منظم مجموعه درس‌ها)

  شما تاکنون در این بحث مشارکت نداشته‌اید.

برخی از دوستان متممی که به این درس علاقه مندند: مهدی افشاری , محمد حجی , سعید میربرون , جواد عزیزان , محمدجوادتقوی

ترتیبی که گروه متمم برای خواندن مطالب سری تصمیم گیری به شما پیشنهاد میکند:

سری مطالب حوزه تصمیم گیری
 
برخی از سوالهای متداول درباره متمم
متمم چیست و چه می‌کند؟ (+ دانلود فایل PDF معرفی متمم)
چه درس‌هایی در متمم ارائه می‌شوند؟
هزینه ثبت‌نام در متمم چقدر است؟
آیا در متمم فایل‌های صوتی رایگان هم برای دانلود وجود دارد؟

قوانین کامنت گذاری/ چرا دیدگاه من منتشر نشده است؟

12 نکته برای اخلاق هوش مصنوعی | مسئله تراموا

    پرطرفدارترین دیدگاه به انتخاب متممی‌ها در این بحث

    نویسنده‌ی دیدگاه : حسین قربانی

    رسانه‌ها و خبرنگاران هم اخبار و گزارش‌های خود را براساس همین سلسله مراتب ارزش‌ها که در نمودار انتهایی نشان داده شده است، مدیریت و تدوین می‌کنند.

    در بسیاری از اخبار مربوط به جنگ‌ها و حملات تروریستی موضوعی که بیشتر مورد تاکید قرار می‌گیرد، آمار تعداد کشته‌شدگان از زنان و کودکان هست. حتی اگر آماری از آن موجود نباشد، به بهترین روش ممکن بر آن تاکید می‌شود که زنان و کودکان هم جزو کشته‌شدگان بوده‌اند.

    اصولا نبایستی فرقی بین ارزش جان یک سرباز یا یک مرد که در حال گذران زندگی روزمره‌اش بوده با زنان و کودکان باشد ولی براساس همین سلسله مراتب ارزشی که بر ذهن انسان‌ها حکمفرما است و برای تاثیرگذاری بیشتر اخبار و گزارش‌ها رسانه‌ها آن را به کار می‌گیرند.

     
    دوست گرامی مشاهده تمرینهای مربوط به این درس، صرفا برای کاربران متمم امکانپذیر میباشد.
    .