سپردن مرگ و زندگی انسانها به دست الگوریتمها
کلان داده ها، هوش مصنوعی و فناوری های دیجیتال، ما را در برابر چالش هایی که اکنون فراروی ماست به شکل شگفت انگیز و غافلگیرکننده ای نامجهز و ناآماده گذاشته اند، حال این چالش ها چه تغییرات اقلیمی، همه گیری کووید۱۹ باشد و چه اخبار جعلی و سخنان نژادپرستانه یا حتی امنیت سایبری.
نویسنده: درک هلبینگ و پیتر سیل (Dirk Helbing) استادعلوم اجتماعی رایانه ای در ای تی اچ زوریخ
Peter Seele استاد اخلاقیات کسب و کار در دانشگاه یو اس آی لوگانو
به گزارش اقتصاد الکترونیکی به نقل از فارس: از جمله مشخصه های دوره آنتروپوسین که در آن بشریت سرنوشت سیاره زمین را شکل می دهد، تهدیدات موجودیتی است. تهدیداتی که طرح های اقدامی نظیر «اهداف توسعه پایدار» سازمان ملل حل و فصل برخی از آنها را هدف گرفته اند. ولی به نظر می رسد که دیگر تاکنون آگاه شده باشیم که برای حل این معضلات، ما باید رفتارها و عادات ریشه دارمان را تغییر دهیم.
در جهانی با جمعیتی بیش از اندازه خیلی ها پرسیده اند «جان انسان چه ارزشی دارد؟» همه گیری کووید۱۹ یک بار دیگر این مسئله را پیش کشیده است و صورت بندی تیره و تاری به این پرسش داده است: «اگر منابع کافی برای نجات جان همگان وجود نداشته باشد، چه کسی اول باید بمیرد؟»
داستان های علمی تخیلی زیادی مثل «دیکتاتوری پروانه» فرانک شاتزینگ نوشته شده اند که با نگرانی های مشابهی سر و کار دارد و اغلب مشکل توسعه پایدار را به طرق بی رحمانه ای «حل می کنند» که یادآور برخی از سیاه ترین فصل های تاریخ بشر است. و واقعیت نیز چندان دور از این نیست. اغوا کننده است که انسان فکر کند ما می توانیم برای حل و فصل چنین معماهایی به کمک هوش مصنوعی اتکا کنیم. پیش از این مسائلی چون جمعیت زدایی و خودکشی مبتنی بر رایانه مورد بحث قرار گرفته اند و اکنون هوش مصنوعی برای کمک به تعیین اولویت بیماران مبتلا به کووید۱۹ مورد استفاده قرار می گیرد.
ولی آیا ما باید به الگوریتم ها اجازه دهیم تا تصمیمات مربوط به مرگ و زندگی را بگیرند؟ مسئله معروف تراموا را در نظر بگیرید. در این آزمایش فکری اگر کسی مداخله نکند، یک تراموای از کنترل خارج شده چندین نفر را زیر می گیرد. اگر کسی تراموا را به یک طرف بچرخاند، عده کمتری کشته می شوند، اما مداخله اوست که باعث مرگ آنها می شود.
گفته نشده که این مسئله به نجات جان انسان ها مربوط می شود، بلکه در واقع این سئوال از فرد مطرح می شود که: «اگر نتوان همه را نجات داد، چه کسی باید بمیرد؟» با این حال شر کمتر همچنان شر است. وقتی که شر اندک اندک به نظر مان قابل پذیرش می شود، مجبور به تن دادن به پرسش های تکان دهنده ای می شویم که می تواند اصل ارکان جامعه و کرامت انسانی ما را تضعیف کند. برای مثال اگر یک وسیله نقلیه خودران نتواند با سرعت لازم ترمز بگیرد، آیا باید یک مادربزرگ را بکشد یا یک فرد بیکار را؟
در چهارچوب به اصطلاح آزمایش ماشین اخلاقی نیز سئوال های مشابهی از پاسخگویانی در سراسر جهان پرسیده شده است تا از داده های گردآوری شده برای تعیین ترجیحات اخلاقی در وضعیت هایی که ماشین های خودکار در آن نقش دارند استفاده شود. در این چهارچوب محققان در این مورد بحث می کنند که «چگونه می توان این ترجیحات را در تدوین اصولی جهانی و از نظر اجتماعی پذیرفته شده برای اخلاقیات ماشین ها به کار گرفت.» اما چنین آزمایش هایی برای تعیین سیاستگذاری ها مبنای مناسبی به شمار نمی رود.
حتما کسانی با این استدلال که یک الگوریتم منصف است، این کار را ترجیح خواهند داد. اما استفاده از الگوریتم به طور بالقوه به معنای اتخاذ تصمیمات تصادفی است. البته ما نمی خواهیم بگوییم که مردم باید به طور تصادفی بمیرند – یا به طور کلی – بمیرند. چنین چیزی با اصل بنیادین کرامت انسانی در تناقض قرار دارد، حتی اگر مرگ بدون درد باشد. بلکه آزمایش فکری ما می گوید که ما نباید چهارچوب مسئله تراموا را به عنوان چهارچوبی مشخص و قطعی بپذیریم. اگر این مسئله راه حل های غیرقابل قبولی را پیش بکشد، ما باید به تلاش های جمعی گسترده تری برای تغییر دادن ترتیبات موجود دست بزنیم. مثلا وقتی پای خودروهای خودران به میان می آید، می توانیم آهسته تر برانیم یا اتومبیل ها را به ترمزهای بهتر و فناوری های ایمنی بیشتری مجهز کنیم.
به همین ترتیب مسائل پایداری زیست محیطی امروز جامعه از پیش تعیین شده نیستند، بلکه نتیجه شیوه کسب و کار ما، زیرساخت های اقتصادی ما، مفهوم جا به جایی بین المللی ما و مدیریت زنجیره تامین متداول ماست. پرسش واقعی باید این باشد که چرا – نزدیک به ۵۰ سال بعد از انتشار مطالعه هشدار دهنده «محدودیت های رشد»- ما هنوز دارای یک اقتصاد چرخشی و مبتنی بر به اشتراک گذاری نیستیم. و چرا برای یک همه گیری آماده نبوده ایم، رویدادی که به شکل گسترده ای پیش بینی شده بود؟
کلان داده ها، هوش مصنوعی و فناوری های دیجیتال، ما را در برابر چالش هایی که اکنون فراروی ماست به شکل شگفت انگیز و غافلگیرکننده ای نامجهز و ناآماده گذاشته اند، حال این چالش ها چه تغییرات اقلیمی، همه گیری کووید۱۹ باشد و چه اخبار جعلی و سخنان نژادپرستانه یا حتی امنیت سایبری. این سئوال توضیح ساده ای دارد: هرچند «بهینه سازی جهان با استفاده از داده ها کار خوبی به نظر می رسد، اما این بهینه سازی بر اساس یک هدف تک بعدی صورت گرفته که پیچیدگی جهان را به یک شاخص واحد تقلیل می دهد. این کار نه مناسب است و نه کارآمد. همچنین اثرات بالقوه شبکه غیرمادی را عمدتا نادیده و توانایی های حل مسئله انسان و ظرفیت تحمل جهان را دست کم می گیرد.
برعکس طبیعت بهینه سازی نمی کند: شریک تحول می شود. بسیار بهتر از جامعه انسانی در زمینه پایداری زیست محیطی و شبکه های تامین چرخشی عمل می کند. هم اقتصاد و هم جامعه ما می تواند از راه حل های الهام گرفته از زیست شناسی که به زیست بوم ها به خصوص اکوسیستم های هم زیستی شباهت دارد منتفع شود.
این به معنای به رسمیت شناختن جهان پر مشکل ما و لحاظ کردن بهبودپذیری و انعطاف پذیری در سیاستگذاری و همکاری های بین المللی است. این مشخصه های سیستم های قابل پایداری، برای سازگاری و بهبودپذیری پس از شوک ها، بلایا و بحران هایی نظیر آنچه که امروز با آنها مواجه ایم بسیار مهم هستند.
بهبودپذیری را می توان به طرق متعددی افزایش داد، از جمله حذف زواید، تنوع راه حل ها، تمرکززدایی سازمانی، رویکردهای مشارکتی، همبستگی و در موارد مقتضی کمک های دیجیتال. چنین راه حل هایی باید به طور محلی و برای دوره های زمانی طولانی قابل پایداری باشد. به عبارت دیگر به جای «یادگیری برای مردن در دوران آنتروپوسن» که روی اسکرانتون نویسنده پیشنهاد می کند، ما باید در روزگار پر مشکلی فعلی «یاد بگیریم که زندگی کنیم.» این بهترین بیمه در برابر تحولاتی است که می تواند ما را به درون باتلاق تعیین اولویت جان انسان ها بکشد.
یک دیدگاه