هماهنگ‌سازی هوش مصنوعی با ارزش‌های انسانی

**همسو کردن هوش مصنوعی با ارزش‌های انسانی**

آدری لوروو، دانشجوی سال آخر دانشگاه MIT، در حال تحقیق بر روی ایمنی هوش مصنوعی است؛ حوزه‌ای که به اطمینان از قابل اعتماد بودن مدل‌های روزافزون هوش مصنوعی و بهره‌مندی بشر از آن‌ها می‌پردازد. این زمینه در حال رشد به چالش‌های فنی مانند استحکام و همسویی هوش مصنوعی با ارزش‌های انسانی تمرکز دارد و در عین حال، نگرانی‌های اجتماعی مانند شفافیت و پاسخگویی را نیز مورد توجه قرار می‌دهد. همچنین، دست‌اندرکاران این حوزه نسبت به خطرات بالقوه وجودی ابزارهای هوش مصنوعی قدرتمند نگران هستند.

لوروو، که در رشته علوم کامپیوتر، اقتصاد و داده‌کاوی تحصیل می‌کند، می‌گوید: «اطمینان از اینکه هوش مصنوعی به‌طور نادرست مورد استفاده قرار نگیرد یا برخلاف نیت ما عمل نکند، به‌ویژه با نزدیک شدن به دستیابی به هوش عمومی مصنوعی (AGI)، اهمیت روزافزونی یافته است.» هوش عمومی مصنوعی به توانایی بالقوه هوش مصنوعی برای برابری یا فراتر رفتن از قابلیت‌های شناختی انسان اشاره دارد.

لوروو، به ‌عنوان یکی از پژوهشگران برنامه مسئولیت‌های اجتماعی و اخلاقی محاسبات (SERC) در کالج محاسبات شوارتزمن MIT، در مطالعات خود به بررسی این موضوع پرداخته که چگونه هوش مصنوعی می‌تواند فرآیندها و روش‌های تحقیق و توسعه خود را به‌صورت خودکار انجام دهد. او همچنین با عضویت در گروه تحقیقاتی داده‌های کلان MIT، در حال مطالعه اثرات اجتماعی و اقتصادی سرعت‌ بخشیدن به تحقیقات هوش مصنوعی توسط خود این فناوری است و به دنبال یافتن راه‌هایی برای انتقال مؤثر این مفاهیم به مخاطبان مختلف مانند قانون‌گذاران و مشاوران استراتژیک است.

لوروو بر لزوم ارزیابی دقیق پیشرفت‌های سریع هوش مصنوعی و پیامدهای آن تأکید دارد. او می‌گوید: «ما باید اطمینان حاصل کنیم که انسان‌ها به فواید هوش مصنوعی دست می‌یابند و در عین حال کنترل این فناوری را از دست نمی‌دهیم. تمام تلاش خود را برای توسعه ایمن این فناوری انجام دهیم.»

او با مشارکت در برنامه‌هایی نظیر *AI Safety Technical Fellowship* به یادگیری جنبه‌های فنی ایمنی هوش مصنوعی پرداخته است. این برنامه فرصتی برای بررسی پژوهش‌های موجود در زمینه همسویی توسعه هوش مصنوعی با ملاحظات اثرات انسانی ارائه می‌دهد. به گفته لوروو، شرکت‌های پیشرو در حوزه هوش مصنوعی همچنان مرزها را جابه‌جا می‌کنند و به همین دلیل نیاز است سیاست‌هایی مؤثر اجرا شوند که ایمنی انسان را اولویت دهند بدون آنکه جلوی تحقیقات گرفته شود.

چشم‌انداز توسعه انسانی

لوروو در هنگام ورود به MIT می‌دانست که می‌خواهد در مسیری گام بردارد که تقاطع علوم و علوم انسانی را در بر بگیرد. از میان رشته‌های متنوعی که این دانشگاه ارائه می‌دهد، او در ابتدا اقتصاد را انتخاب کرد، زیرا این رشته بر کمی‌کردن تأثیرات اجتماعی تمرکز دارد. او سپس در حوزه‌هایی نظیر ریاضیات، علوم سیاسی و شهرسازی نیز تحقیق کرد و در نهایت به تصمیم برای انتخاب رشته علوم کامپیوتر، اقتصاد و داده‌کاوی رسید.

او می‌گوید: «کلاس‌های اقتصادسنجی پروفسور جاشوا آنگریست به من کمک کرد ارزش تمرکز بر اقتصاد را درک کنم، در حالی که عناصر علوم داده و علوم کامپیوتر به دلیل تأثیر گسترده و آینده‌دار آنها برایم جذابیت داشتند. ما می‌توانیم از این ابزارها برای حل برخی از جدی‌ترین مشکلات جهان بهره ببریم و امیدواریم چالش‌های مهم را پشت سر بگذاریم.»

لوروو همچنین در زمینه‌هایی مانند مطالعات شهری و توسعه بین‌المللی نیز فعالیت کرده است. در طی تلاش‌هایش در MIT، او به گروه‌های مختلفی نظیر گروه MIT AI Alignment پیوسته و از آنها درباره ایمنی هوش مصنوعی نکات بسیاری آموخته است.

او مفهوم «اثر حاشیه‌ای» را نیز مؤثر می‌داند؛ یعنی محاسبه تأثیر افزایشی که یک نوع سرمایه‌گذاری خاص (زمان، پول یا تلاش) به تلاش‌های موجود اضافه می‌کند. به گفته لوروو، چنین دیدگاهی می‌تواند در انتخاب محل سرمایه‌گذاری منابع محدود بسیار ارزشمند باشد.

تجربیات دانشجویی در MIT

لوروو زمان خود را خارج از کلاس برای ایجاد تجربیات به‌یادماندنی و تقویت روابط با همکلاسی‌هایش صرف می‌کند. او معتقد است MIT فضایی برای ایجاد تعادل میان پژوهش، فعالیت‌های کلاسی، تعهدات باشگاهی و حتی فعالیت‌های شخصی نظیر ورزش و پروژه‌های خارج از دانشگاه فراهم می‌کند. از باشگاه‌های مختلف گرفته تا تجربیات بین‌المللی مانند کارآموزی در سانتیاگو شیلی و پاریس، او توانسته دیدگاه‌های جهانی‌اش را گسترش دهد.

به‌عنوان رئیس انجمن اقتصاد دانشجویان کارشناسی MIT، لوروو با دیگر دانشجویان علاقه‌مند به اقتصاد ارتباط برقرار می‌کند. او بر این باور است که جامعه MIT فرصتی کم‌نظیر برای اکتشافات و پیشرفت فراهم می‌کند.

بعد از فارغ‌التحصیلی، او قصد دارد تحقیقات خود را در حوزه ایمنی هوش مصنوعی و راهبردهای حکمرانی آن ادامه دهد. او می‌گوید: «حاکمیت خوب برای توسعه موفقیت‌آمیز هوش مصنوعی اساسی است، زیرا می‌تواند تضمین کند بشریت از پتانسیل تحولی این فناوری بهره‌مند شود.»

لوروو امیدوار است تجربه‌های میان‌رشته‌ای او به پیشرفت ایمنی هوش مصنوعی کمک کند و دیگران را نیز تشویق می‌کند به این حوزه مهم بپردازند.

منبع: [MIT EECS](https://www.eecs.mit.edu/)