در یک جلسه از کلاس «اخلاق در محاسبات» (6.C40/24.C40)، پروفسور آرماندو سولار-لزاما همان سوال سختی را از دانشجویان خود می‌پرسد که خودش نیز بارها در تحقیقاتش با گروه برنامه‌نویسی کمکی کامپیوتر در MIT مطرح کرده است:
«چطور می‌توانیم مطمئن شویم که یک ماشین دقیقاً همان کاری را انجام می‌دهد که ما می‌خواهیم، و فقط همان را؟»
در دوران طلایی هوش مصنوعی مولد، این ممکن است سوالی جدید و فوری به نظر برسد، اما سولار-لزاما، استاد برجسته محاسبات در MIT، تاکید می‌کند که این چالش به قدمت تاریخ بشر است.
او داستان افسانه‌ای پادشاه یونانی، میداس، را بازگو می‌کند؛ پادشاهی که قدرت تبدیل هر چیزی را به طلا دریافت کرد، اما این آرزو زمانی که به طور تصادفی عزیزانش را به مجسمه‌های طلایی تبدیل کرد، به یک نفرین تبدیل شد.
او خطاب به دانشجویان خود – که بسیاری از آن‌ها در حال دستیابی به مهارت‌های برنامه‌نویسی و ریاضیات هستند – هشدار می‌دهد: «مراقب باشید که چه چیزی را آرزو می‌کنید، زیرا ممکن است به شکلی که انتظار ندارید، برآورده شود.»
سولار-لزاما سپس به تاریخ برنامه‌نویسی می‌پردازد؛ از ماشین پیگمالیون در دهه ۷۰ که نیاز به ورودی‌های بسیار دقیق داشت، تا نرم‌افزارهای دهه ۹۰ که برای توسعه آن‌ها تیمی از مهندسان و صدها صفحه مستندات لازم بود. هرچند این سیستم‌ها در زمان خود چشمگیر بودند، اما فرآیند توسعه آن‌ها بسیار طولانی و پیچیده بود.
او در ادامه درباره خطرات ماشین‌های مدرن صحبت می‌کند که ممکن است همیشه از دستورات برنامه‌نویسان پیروی نکنند و هم می‌توانند جان انسان‌ها را نجات دهند و هم ضررهای بزرگی وارد کنند.
دوره‌ای که تخصص فنی و فلسفی را ترکیب می‌کند
دوره «اخلاق در محاسبات» که برای اولین بار در پاییز ۲۰۲۴ ارائه می‌شود، از طریق ابتکار Common Ground for Computing Education توسط دانشکده محاسبات MIT Schwarzman ایجاد شده است. هدف این دوره ترکیب علوم کامپیوتر با سایر حوزه‌های علمی است.
دو استاد این دوره، برد اسکاو، استاد فلسفه MIT، و سولار-لزاما، معاون و مدیر اجرایی آزمایشگاه علوم کامپیوتر و هوش مصنوعی MIT، تدریس را به‌صورت متناوب بر عهده دارند. اسکاو مباحثات فلسفی را بررسی می‌کند، در حالی که سولار-لزاما بر جنبه‌های فنی تمرکز دارد.
آلک وستوور، دانشجویی که در این کلاس شرکت کرده، می‌گوید که به دلیل علاقه به فلسفه و اخلاق، جذب این دوره شده است. او معتقد است که این کلاس به او کمک می‌کند تا درباره آینده AI بهتر بیندیشد.
آیا اینترنت در حال نابودی دنیاست؟
ترم با بررسی ریسک‌های هوش مصنوعی آغاز شد، سپس به موضوع اینترنت، شبکه جهانی وب و تأثیرات اجتماعی تصمیمات فنی پرداخته شد. در ادامه، مسائلی مانند حفظ حریم خصوصی، تبعیض در داده‌ها و آزادی بیان بررسی شدند.
یکی از جلسات کلاس با این سوال بحث‌برانگیز همراه بود: «آیا اینترنت در حال نابودی جهان است؟»
کایتلین اوگو، دانشجویی که در حوزه محاسبات و شناخت تحصیل می‌کند، می‌گوید که این‌گونه مباحث دقیقاً دلیل حضور او در این کلاس هستند. او که برنامه دارد در آینده وارد حوزه حقوق شود تا در زمینه قوانین مربوط به تکنولوژی فعالیت کند، در بحث‌های کلاس فعالانه شرکت می‌کند.
در یکی از جلسات، اسکاو درباره سوگیری الگوریتم‌ها در AI صحبت می‌کند و به نرم‌افزار جنجالی COMPAS اشاره دارد که برای پیش‌بینی احتمال تکرار جرم طراحی شده بود. طبق گزارش ProPublica در سال ۲۰۱۸، این الگوریتم احتمال ارتکاب جرم مجدد را برای متهمان سیاه‌پوست دو برابر بیشتر از متهمان سفیدپوست نشان می‌داد.
در کلاس، دو نظریه مختلف درباره عدالت مورد بررسی قرار می‌گیرند: عدالت محتوایی (Substantive fairness) و عدالت رویه‌ای (Procedural fairness). اسکاو و دانشجویان درباره این موضوع بحث می‌کنند که کدام معیارهای عدالت قابل قبول هستند و نتیجه‌گیری می‌کنند که آیا سیستم COMPAS باید کنار گذاشته شود یا خیر.
در پایان جلسه، اسکاو و سولار-لزاما در دفتر خود درباره روند کلاس بحث می‌کنند. سولار-لزاما می‌گوید: «شاید پنج سال دیگر، همه به این فکر کنند که نگرانی‌های امروزی درباره ریسک‌های هوش مصنوعی بی‌مورد بودند. اما نکته مهم این کلاس این است که یاد بگیریم این مباحث را از سطح رسانه‌ای فراتر ببریم و به طرز تفکری دقیق‌تر برسیم.»