Menu


اخلاق هوش مصنوعی | مسئله تراموا


چالش اخلاق در هوش مصنوعی

یکی از مباحث مهم در تصمیم گیری، موضوع سلسله مراتب ارزش‌هاست.

ما علاوه بر درسی که مستقیماً به سلسله مراتب ارزش‌ها در کار و زندگی پرداخته‌ایم، یک بار هم به شکل غیرمستقیم در فایل صوتی تصمیم گیری در قالب مسئله‌ی قطار و سوزن‌بان به آن اشاره کردیم.

هم‌چنین به این نکته هم اشاره کرده‌ایم که تعیین ارزش‌ها چندان دشوار نیست؛ بلکه دشواری واقعی در تعیین سلسله مراتب ارزش‌هاست.

بسیاری از ما معتقدیم که در هر شرایطی باید از دروغ‌گویی اجتناب کرد. اما وقتی می‌خواهیم بین دروغ‌گفتن به اعضای خانواده و دروغ‌گفتن به همکار یکی را انتخاب کنیم، دیگر اصل مسئله از بین می‌رود و سوال‌، به انتخاب میان بد و بدتر تبدیل می‌شود.

مشابه همین مسئله قتل انسان‌ها است که هر انسان سالمی، نسبت به آن موضع مخالف می‌گیرد. اما می‌بینیم که در تمام نبردهای تاریخ، وقتی انتخاب به یکی از دو گزینه‌ی کشتن و کشته‌شدن می‌رسد، اصل مسئله رنگ می‌بازد.

به همین علت است که مسئله‌ی واگن به یک مسئله‌ی کلاسیک در تصمیم‌گیری تبدیل شده است: این مسئله، به جای این‌که از شما بخواهد ارزش‌های خود را اعلام کنید، شما را وادار می‌کند جایگاه ارزش‌ها را نسبت به یکدیگر مقایسه کرده و درباره‌ی اهمیت آن‌ها تصمیم بگیرید.

با جستجوی عبارت Trolley Problem یا مسئله ترموا در گوگل، می‌توانید فهرستی طولانی از مقاله‌ها و مطالب را ببینید که به شکل‌های مختلف به این انتخاب دوگانه (و در واقع اولویت‌بندی ارزش‌ها) پرداخته‌اند. ماکس بیزرمن هم در بخش‌هایی از کتاب مدیران و چالش های تصمیم گیری از روایت‌های مختلف مسئله ترامو برای بیان حرف‌ها و ایده‌های خود استفاده می‌کند.

مسئله تراموا - نمونه‌ای از اخلاق هوش مصنوعی

محدودیت در دسترسی کامل به این مجموعه درس

دسترسی کامل به مجموعه درس‌های تصمیم گیری و حل مسئله برای کاربران ویژه متمم در نظر گرفته شده است.

با فعال کردن اشتراک ویژه به درس‌های بسیار بیشتری دسترسی پیدا می‌کنید که می‌توانید فهرست آنها را در اینجا ببینید:

 فهرست درس‌های مختص کاربران ویژه متمم

البته با توجه به علاقه‌ی شما به مباحث تصمیم گیری و حل مسئله، مناسب‌تر به نظر می‌رسد که مطالعه‌ی درس‌های زیر را در اولویت قرار دهید:

  تفکر سیستمی | تفکر استراتژیک

  مهارت یادگیری | مدل ذهنی

  دوره MBA (پیگیری منظم مجموعه درس‌ها)

      شما تاکنون در این بحث مشارکت نداشته‌اید.  

     برخی از دوستان متممی که به این درس علاقه مندند:    حسن پیوسته گر ، مهتاب محمدی ، مهدی خانی ، طاهره خباری ، سکینه شفیعی نژاد

ترتیبی که متمم برای خواندن مطالب سری تصمیم گیری به شما پیشنهاد می‌کند:

سری مطالب حوزه تصمیم گیری
 

برخی از سوالهای متداول درباره متمم (روی هر سوال کلیک کنید)

متمم چیست و چه می‌کند؟ (+ دانلود فایل PDF معرفی متمم)
چه درس‌هایی در متمم ارائه می‌شوند؟
هزینه ثبت‌نام در متمم چقدر است؟
آیا در متمم فایل‌های صوتی رایگان هم برای دانلود وجود دارد؟

قوانین کامنت گذاری در متمم

21 نکته برای اخلاق هوش مصنوعی | مسئله تراموا

    پرطرفدارترین دیدگاه به انتخاب متممی‌ها در این بحث

    نویسنده‌ی دیدگاه : حسین قربانی

    رسانه‌ها و خبرنگاران هم اخبار و گزارش‌های خود را براساس همین سلسله مراتب ارزش‌ها که در نمودار انتهایی نشان داده شده است، مدیریت و تدوین می‌کنند.

    در بسیاری از اخبار مربوط به جنگ‌ها و حملات تروریستی موضوعی که بیشتر مورد تاکید قرار می‌گیرد، آمار تعداد کشته‌شدگان از زنان و کودکان هست. حتی اگر آماری از آن موجود نباشد، به بهترین روش ممکن بر آن تاکید می‌شود که زنان و کودکان هم جزو کشته‌شدگان بوده‌اند.

    اصولا نبایستی فرقی بین ارزش جان یک سرباز یا یک مرد که در حال گذران زندگی روزمره‌اش بوده با زنان و کودکان باشد ولی براساس همین سلسله مراتب ارزشی که بر ذهن انسان‌ها حکمفرما است و برای تاثیرگذاری بیشتر اخبار و گزارش‌ها رسانه‌ها آن را به کار می‌گیرند.

     
    دوست گرامی مشاهده تمرینهای مربوط به این درس، صرفا برای کاربران متمم امکانپذیر میباشد.
    .