Menu


اخلاق هوش مصنوعی | مسئله تراموا


چالش اخلاق در هوش مصنوعی

یکی از مباحث مهم در تصمیم گیری، موضوع سلسله مراتب ارزش‌هاست.

ما علاوه بر درسی که مستقیماً به سلسله مراتب ارزش‌ها در کار و زندگی پرداخته‌ایم، یک بار هم به شکل غیرمستقیم در فایل صوتی تصمیم گیری در قالب مسئله‌ی قطار و سوزن‌بان به آن اشاره کردیم.

هم‌چنین به این نکته هم اشاره کرده‌ایم که تعیین ارزش‌ها چندان دشوار نیست؛ بلکه دشواری واقعی در تعیین سلسله مراتب ارزش‌هاست.

بسیاری از ما معتقدیم که در هر شرایطی باید از دروغ‌گویی اجتناب کرد. اما وقتی می‌خواهیم بین دروغ‌گفتن به اعضای خانواده و دروغ‌گفتن به همکار یکی را انتخاب کنیم، دیگر اصل مسئله از بین می‌رود و سوال‌، به انتخاب میان بد و بدتر تبدیل می‌شود.

مشابه همین مسئله قتل انسان‌ها است که هر انسان سالمی، نسبت به آن موضع مخالف می‌گیرد. اما می‌بینیم که در تمام نبردهای تاریخ، وقتی انتخاب به یکی از دو گزینه‌ی کشتن و کشته‌شدن می‌رسد، اصل مسئله رنگ می‌بازد.

به همین علت است که مسئله‌ی واگن به یک مسئله‌ی کلاسیک در تصمیم‌گیری تبدیل شده است: این مسئله، به جای این‌که از شما بخواهد ارزش‌های خود را اعلام کنید، شما را وادار می‌کند جایگاه ارزش‌ها را نسبت به یکدیگر مقایسه کرده و درباره‌ی اهمیت آن‌ها تصمیم بگیرید.

با جستجوی عبارت Trolley Problem یا مسئله ترموا در گوگل، می‌توانید فهرستی طولانی از مقاله‌ها و مطالب را ببینید که به شکل‌های مختلف به این انتخاب دوگانه (و در واقع اولویت‌بندی ارزش‌ها) پرداخته‌اند. ماکس بیزرمن هم در بخش‌هایی از کتاب مدیران و چالش های تصمیم گیری از روایت‌های مختلف مسئله ترامو برای بیان حرف‌ها و ایده‌های خود استفاده می‌کند.

مسئله تراموا - نمونه‌ای از اخلاق هوش مصنوعی

محدودیت در دسترسی کامل به این مجموعه درس

دسترسی کامل به مجموعه درس‌های تصمیم گیری و حل مسئله برای کاربران ویژه متمم در نظر گرفته شده است.

با فعال کردن اشتراک ویژه به درس‌های بسیار بیشتری دسترسی پیدا می‌کنید که می‌توانید فهرست آنها را در اینجا ببینید:

 فهرست درس‌های مختص کاربران ویژه متمم

البته با توجه به علاقه‌ی شما به مباحث تصمیم گیری و حل مسئله، مناسب‌تر به نظر می‌رسد که مطالعه‌ی درس‌های زیر را در اولویت قرار دهید:

  تفکر سیستمی | تفکر استراتژیک

  مهارت یادگیری | مدل ذهنی

  دوره MBA (پیگیری منظم مجموعه درس‌ها)

      شما تاکنون در این بحث مشارکت نداشته‌اید.  

     برخی از دوستان متممی که به این درس علاقه مندند:    رضارحیمی ، آمیتیس شریف پور ، مژگان پیوندی ، محسن بازیاری ، علی خیرخواه

ترتیبی که متمم برای خواندن مطالب سری تصمیم گیری به شما پیشنهاد می‌کند:

سری مطالب حوزه تصمیم گیری

قوانین کامنت گذاری در متمم

24 نکته برای اخلاق هوش مصنوعی | مسئله تراموا

    پرطرفدارترین دیدگاه به انتخاب متممی‌ها در این بحث

    نویسنده‌ی دیدگاه : لیلا

    چندروز پیش در جریان قرار گرفتم که قرار هست تعدادی از کودکان با بیماری خاص و سخت رو به مسافرت ببرن و ذهن من درگیر موضوع مشابه و ترجیح دادن یک گروه بر دیگری شد. این‌که اگر قرار هست کمک بکنیم ترجیح بر کودکان سالم(افراد سالم) باشد یا بیمار.

    و آنچه که در ادامه نوشتم بیان همون افکار با صدای بلند هست، بدون نتیجه‌گیری و یا انتخاب یک مورد بر دیگری.

    برخورد خود من در این موارد این هست که نمی‌تونم بگم چون می‌دونم این کودکان بیمار هستند و خیلی از اون‌هایی که بهشون کمک می‌شه شاید اصلا زنده نمونن پس بهتر هست روشون سرمایه‌گذاری نشه. اتفاقا دوست دارم که تو زندگیشون خاطرات و تجربه‌های خوب رو داشته باشن و از کجا معلوم که تاثیر گذاری اون‌ها کمتر از فرد سالم جامعه باشه و چرا باید توقع اثرگذاری از کسی که بهش کمک می‌کنیم رو داشته باشیم، چه کسی می‌تونه موثر بودن یک فرد رو در طی زندگیش بسنجه یا پیش‌بینی کنه.

    فکر می‌کردم به دیدگاه کسی که نگاهش بر عکس خودم بود(ترجیح کمک کردن به افراد سالم)، و این‌که شاید اون شخص نگاهش سیستمی هست و دنبال اثر بلند مدت هستش و همین باعث می‌شه کمک به افرا سالم رو ترجیح بده.

    شاید کمک کردن به افرادی که می‌دونی زنده نمی‌مونن و پی‌درپی تکرار شدن این مسئله باعث بشه که فکر کنی کاری که می‌کنی بیهوده است.

    همزمان یاد کتاب ژن‌خودخواه افتادم، این‌که در طبیعت هم تلاش برای حفظ عضو سالم‌تر و مقاوم‌تر هست و این انسان هست که مجهز شده به مهارتی تا از اعضای ضعیف‌ترش نگهداری و حمایت کنه.

    در نهایت هر کسی با ترجیح خودش عمل کرد ولی ذهن من همچنان درگیر این مسئله است.

     

     

     
    دوست گرامی مشاهده تمرینهای مربوط به این درس، صرفا برای کاربران متمم امکانپذیر میباشد.
    .