همین حالا که مشغول مطالعه این مطلب هستید احتمالا ده ها الگوریتم با بررسی رفتار شما حرکت بعدی شما را پیشبینی میکنند. همچنین به احتمال قریب به یقین یکی از همین الگوریتم ها شما را در معرض این مقاله قرار داده؛ زیرا پیشبینی کرده که آن را می خوانید. امروزه هوش مصنوعی میتواند پیش بینی کند که شما آیا وام دریافت می‌کنید، در مصاحبه شغلی موفق می شوید، صاحب آپارتمان یا بیمه عمر می شوید و هزاران موارد دیگر.
این تحلیلهای پیش‌بینی‌کننده ی آینده، به تدریج، حوزه‌های بیشتری از زندگی انسانها را تحت کنترل خود در می آورند، اما تاکنون از هیچ کس برای انجام چنین پیش بینی هایی اجازه گرفته نشده است و هیچ نهاد دولتی بر آنها نظارت نمی کند. هیچکس افراد را در مورد پیش بینی هایی که ممکن است سرنوشت آنها را تعیین کند، آگاه نمی کند. با جستجو در رسالات آکادمیک در خصوص اینکه آیا این پیش بینی ها اخلاقی هستند، می بینید که این حوزه کمتر مورد بررسی قرار گرفته است. به عنوان یک جامعه، ما به پیامدهای اخلاقیِ پیش‌بینیِ رفتار و آینده انسان ها فکر نکرده‌ایم، موجوداتی که قرار است آزاد و مختار زندگی کنند نه تحت تاثیر الگوهای طراحی شده!
هوش مصنوعی در مقابل اختیار انسانها
شاید بتوان گفت توانایی سرپیچی از روالها و قوانین، معنای عمیق انسان بودن است. بزرگ‌ترین قهرمانان ما کسانی هستند که از سرنوشت محتوم خود سرپیچی کرده اند: آبراهام لینکلن، مهاتما گاندی، ماری کوری، هلن کلر، رزا پارکس، نلسون ماندلا و بسیاری افراد دیگر؛ همه آنها فراتر از حد انتظار رفتند و در نهایت موفق شدند.
معلم های مدرسه، معمولا دانش آموزانی را به خاطر می آورند که تلاش هایشان فراتر از انجام تکالیف و درس های کلاس بوده است.
همگی ما میخواهیم در جامعه‌ای زندگی کنیم که علاوه بر تلاش برای بهبود زندگی جمعی، فرصتی برای سرپیچی از روالها و روتینهای ثابت برای شهروندان ایجاد کند. با این حال هر چه بیشتر از هوش مصنوعی برای دسته‌بندی افراد، پیشبینی آینده و رفتار متناسب با آنها استفاده میکنیم، این ویژگی انسانی را محدودتر میکنیم که در نهایت ما را در معرض خطرات ناشناخته ای قرار میدهد.
انسان ها از قرن ها قبل از میلاد مسیح نیز از پیش بینی ها استفاده می کردند. در دهه‌های اخیر از بعضی الگوریتم های پیشبینی برای برخی کارها مانند تعیین حق بیمه افراد استفاده می شد، این پیش‌بینی‌ها معمولاً در خصوص گروه‌های بزرگی از افراد بود. برای مثال اینکه چند نفر در 100.000 نفر با ماشین‌هایشان تصادف خواهند کرد.
برخی از این افراد نسبت به دیگران محتاط تر و خوش شانس تر خواهند بود، اما در نهایت حق بیمه ها تفاوت چندانی با هم نداشت، الگوی اصلی اما با این فرض شکل می گرفت که رانندگان سهل انگار یا بدشانس، حق بیمه بیشتری نسبت به رانندگان محتاط یا خوش شانس بپردازند.
امروزه، این پیشبینی ها از طریق هوش مصنوعی و الگوریتمهای یادگیری ماشینی انجام میشود که از آمار برای پر کردن جاهای خالی مجهولات استفاده میکنند. به طور مثال الگوریتمهای متنی از پایگاه‌های اطلاعاتی بسیار گسترده ای برای پیشبینی معقول‌ترین پایان بندی برای جملات استفاده میکنند. الگوریتم های بازی از داده های بازیهای گذشته برای پیش بینی بهترین حرکت ممکن بعدی استفاده می کنند. الگوریتم‌هایی که برای پیشبینی رفتار انسان به کار می‌روند، از داده‌های گذشته برای استنباط رفتار آینده ما استفاده میکنند: چه چیزی می‌خریم، آیا میخواهیم شغل خود را تغییر دهیم، آیا احتمال دارد که بیمار شویم، آیا ممکن است مرتکب جرمی شویم یا با ماشینمان تصادف کنیم.
با در نظر گرفتن این الگوها دیگر برای تعیین حق بیمه نیازی به تصمیم گیری های جمعی برای تعداد زیادی از افراد نیست. به جای آن از پیش‌بینی‌ها فردی استفاده می شود و شما با توجه به رفتار شخصی‌تان و محاسبه ریسک آن مبلغی را پرداخت می کنید. اما استفاده از این روش نگرانی‌های اخلاقی جدیدی را ایجاد کرده است.
مشکل کجاست؟
مشکلی که در این میان وجود دارد این است که انسانها نوعی ناتوانی در درک احتمالات بد دارند. از دیدگاه انسانی، احتمال بد معمولا به قطعیت تعبیر می شود. این ویژگی به انگیزه های ذاتی اجتناب از خطر در انسانها باز می گردد. برای نمونه در نظر بگیرید، اگر پیش بینی ها بیان کنند که فردی به احتمال 75 درصد کارمند بدی است، شرکتها تمایلی به استخدام آن فرد نخواهند داشت و به سمت افرادی با احتمال ریسک پایینتر متمایل خواهند شد.
مردی در اتاق تاریک، منبع: unsplash
جایگاه اخلاق در الگوریتمهای هوش مصنوعی
شیوه ای که ما از الگوریتم های پیشبینی استفاده می کنیم مسائلی اخلاقی را مطرح می کند که به یکی از قدیمی‌ترین بحث‌ها در فلسفه منتهی میشود: اگر خدای دانای کل وجود داشته باشد آیا میتوان گفت که ما واقعاً آزاد و مختار هستیم؟ اگر خدا از قبل می‌داند که قرار است چه اتفاقی بیفتد به این معنی است که هر چیزی که قرار است اتفاق بیفتد از قبل تعیین شده است! مفهوم کلی این است که احساس آزادی ما چیزی جز این نیست: تنها یک احساس! این دیدگاه را در فلسفه، جبرگرایی الهی مینامند.
آنچه در مورد این استدلال نگران کننده است این است که اگر امکان انجام پیش بینی های دقیق وجود داشته باشد (صرف نظر از اینکه چه کسی آنها را انجام می دهد)، پس آن چیزی که پیشبینی شده است از قبل تعیین شده است. در عصر هوش مصنوعی این نگرانی بیش از پیش برجسته می شود، زیرا تجزیه و تحلیلهای پیشبینی کننده دائما افراد را هدف قرار میدهند.
شیء انگاری انسانها
مشکل اخلاقی عمده این الگوریتمها این است که برای پیشبینی رفتار انسان، عملکردی مانند پیشبینی آب و هوا دارند، یعنی با انسان مشابه یک شیء رفتار میکنند.
بخشی از معنای رفتار محترمانه نسبت به یک فرد، تصدیق اختیار و توانایی او برای تغییر سرنوشت و شرایطش است.
مداخله پیش بینی در واقعیت
دومین مشکل اخلاقی مرتبط با پیشبینی رفتار انسان این است که این پیش بینی ها به ندرت بی طرفانه هستند. در بیشتر اوقات، عملِ پیشبینی، در واقعیتی که اتفاق می افتد، مداخله میکند. به عنوان مثال وقتی فیس بوک پیشبینی میکند که یک پست پربازدید می شود، آن پست را بیشتر در معرض دید قرار می دهد، در نتیجه به بازدید بیشتر آن کمک میکند. به مثال الگوریتمی برگردیم که اعلام می کند شما به احتمال زیاد کارمند خوبی نخواهید بود. از آنجایی که تمایل شرکتها به استخدام شما کاهش می یابد و تعداد رد شدن خواسته های شما بالا میرود، ناخودآگاه در لیست سیاه الگوریتم قرار میگیرد که گزینه های شما را در زندگی به شدت محدود میکند.
هوش مصنوعی در مسیر جبرگرایی
فیلسوفانی که در گذشته به جبرگرایی الهی اعتقاد داشتند بر این باور بودند که اگر خدا، دانای کل و قادر مطلق است، پس برای وجود شر در این دنیا باید او را سرزنش کنیم. همانطور که دیوید هیوم نوشته است: «چگونه می توان اعمال انسانها را منطبق بر آنچه از پیش تعیین شده بدانیم و در عین حال خدایی که خالق آن است را دور از گناه و بدی بخوانیم.» در مورد هوش مصنوعی نیز میتوان گفت اگر تحلیلهای پیش‌بینی‌کننده تا حدودی مسئول واقعیاتی هستند که در آینده ایجاد میشود، پس میتوان مدعی بود که آنها مقصر بخشی از پدیده های نامطلوب در عصر دیجیتال مانند افزایش نابرابری، قطبی‌سازی، رواج اطلاعات نادرست و آسیب به کودکان و نوجوانان هستند.
در نهایت استفاده گسترده از تحلیلهای پیشبینی آینده، فرصت داشتن آینده‌ای باز و قابل تغییر را از ما سلب میکند. این مسئله ممکن است تاثیر مخربی بر جامعه انسانی داشته باشد.
در طول تاریخ ما به شیوه ای زندگی کرده ایم که جبرگرایی را به چالش کشیده ایم. ما تمام تلاش خود را می کنیم تا فرزندانمان آموزش ببینند، به این امید که سرمایه گذاری ما آنها را به سمت داشتن زندگی بهتر سوق دهد. برای بهبود عادت های روزانه خود تلاش میکنیم تا زندگی سالمتری داشته باشیم. رفتار خوب را ستایش میکنیم، دیگران را برای انجام کار درست بر سر دوراهی تشویق میکنیم. افراد خطاکار را مجازات می کنیم به این امید که برای انجام کارهای اشتباه بی انگیزه شوند و هنجارهای اجتماعی را بپذیرند. کسانی که در بزنگاه های مهم تصمیم نادرستی گرفته اند را سرزنش میکنیم که چرا بهتر عمل نکردند. ما تمام تلاشمان را می کنیم که جامعه را بر اساس ارزشها و شایستگیها ساختار دهیم.
کودکی در کنار ربات انسان نما، منبع: unsplash
آینده در انحصار الگوریتمهای پیش بینی
اگر همه ما این باور را داشته باشیم که سرنوشت انسانها از پیش تعیین شده و غیر قابل تغییر است هیچ یک از ارزشهایی که تاکنون برای آنها تلاش کرده ایم معنا پیدا نمی کنند. دیگر تشویق یا مجازات کردن معنایی پیدا نمیکند. دنیایی را بدون هیچ گونه نمره، ارزشیابی، جریمه، جایزه و مجازات تصور کنید. جهانی بدون هیچ تلاشی برای تغییر آینده؛ جهانی که در آن مردم تسلیم مطلق یک پیشگویی هستند.
تصور چنین دنیایی تقریبا غیر ممکن است. اگر بتوان آینده هر شرکتی را با دقت پیشبینی کرد بازارهای مالی کنونی دچار فروپاشی میشود و به همراه آن اقتصاد جهانی نیز سقوط میکند. گرچه بعید است که این پدیده ها با این شدت اتفاق بیفتند، اما نباید مسیری را طی کنیم که منتهی به این آینده ناگوار میشود.
همواره تنشی غیر قابل حل، بین پیش بینی رفتار انسان و اعتقاد به اراده آزاد او وجود دارد. وجود درجه ای از عدم اطمینان در مورد آینده، به ما انگیزه میدهد تا بهتر عمل کنیم و احتمالات را در نظر بگیریم. جمع آوری تمامی اطلاعات زندگی افراد با هدف ترسیم آینده آنها با این پیش فرض صورت میگیرد که انسانها مسئول تمامی اعمال خود از بدو تولد هستند.
آیا انسان ماشینی قابل پیش بینی است؟
در این میان باید تصمیم بگیریم که آیا ما انسانها را به‌عنوان ماشین‌های مکانیکی که میتوان آینده آنها را پیشبینی کرد در نظر میگیریم یا آنها را افرادی آزاد و مختار میبینیم که در این حالت پیش بینی رفتار آنها غیر منطقی است. اگر تصورمان از انسان ماشینی قابل پیش بینی است، شایسته سالاری مفهومی بی معنا برایمان میشود. همچنین دیگر جایی برای تشویق یا مجازات وجود ندارد، زیرا ما یک تراکتور یا چرخ خیاطی را به خاطر داشتن ایراد در زندان نمی اندازیم. از سوی دیگر اگر انسانها با ماشین‌ها متفاوت هستند و میخواهیم به ستایش و سرزنش کردن آنها ادامه دهیم، پس جایی برای پیشبینی عملکرد آنها در آینده باقی نمی ماند.
سخن آخر
پیش بینی ها ابزار بی ضرری نیستند. استفاده گسترده از تجزیه و تحلیل پیشگویانه میتواند طرز فکر انسانها را در مورد خودشان نیز تغییر دهد. انسانها باید احساس کنند که مختار هستند و این به کارهایشان ارزش میدهد. پژوهشهای روانشناسان نشان داده است انسانهایی که باور به داشتن اراده ای آزاد ندارند، رفتارهایی مانند تقلب، پرخاشگری و مطیع بودن در آنها بیشتر است و از سوی دیگر ویژگیهایی چون قدردانی و ثبات شخصیت در آنها کمتر دیده میشود. هرچه بیشتر به تحلیلهای پیش‌بینی‌کننده بر روی افراد تکیه کنیم، انسانها ضعیفتر و در مواجهه با سختی‌ها ناتوانتر میشوند.
با تعیین سرنوشت انسانها بر اساس هوش مصنوعی، مردم را به روبات تبدیل میکنیم. داشتن ذهنی خلاق و فکر کردن خارج از چارچوب در طول تاریخ موجب شده که ملتها از چالشهای بزرگی سربلند بیرون بیایند. به شخصیت هایی مانند روزولت و چرچیل در طول جنگ جهانی دوم فکر کنید. آنها بر مشکلات بزرگی در زندگی شخصی و حرفه ای خود غلبه کردند و در این روند به نجات جهان از توتالیتاریسم کمک کردند. توانایی سرپیچی از قوانین و روتینها یکی از بزرگ‌ترین موهبت‌های بشریت است که نباید آن را با دستهای خود از بین ببریم.
