OpenAI به تازگی یک کمک مالی 1 میلیون دلاری به تیم تحقیقاتی دانشگاه دوک اختصاص داده است تا بررسی کند که آیا هوش مصنوعی می‌تواند قضاوت‌های اخلاقی انسانی را پیش‌بینی کند یا خیر.
این ابتکار نشان‌دهنده تمرکز فزاینده‌ای بر روی تقاطع فناوری و اخلاق است و سوالات حیاتی را مطرح می‌کند: آیا هوش مصنوعی می‌تواند پیچیدگی‌های اخلاق را مدیریت کند یا تصمیمات اخلاقی باید صرفاً در اختیار انسان باقی بمانند؟
پروژه «ایجاد اخلاق در هوش مصنوعی» که توسط آزمایشگاه نگرش‌ها و تصمیمات اخلاقی (MADLAB) در دانشگاه دوک انجام می‌شود، به سرپرستی پروفسور اخلاق والتر سینات-آرمسترانگ و همکارش جانا شایک بورگ، در حال بررسی توسعه ابزاری است که به نوعی می‌توان آن را به «GPS اخلاقی» تشبیه کرد؛ ابزاری که بتواند به اتخاذ تصمیمات اخلاقی کمک نماید.
تحقیقات MADLAB شامل حوزه‌های متنوعی از جمله علوم کامپیوتر، فلسفه، روان‌شناسی و علوم اعصاب است تا بفهمند نگرش‌ها و تصمیمات اخلاقی چگونه شکل می‌گیرند و چگونه هوش مصنوعی می‌تواند به این فرآیند کمک کند.
نقش هوش مصنوعی در مسائل اخلاقی
تحقیقات MADLAB به این می‌پردازد که هوش مصنوعی چگونه می‌تواند قضاوت‌های اخلاقی را پیش‌بینی یا تحت تأثیر قرار دهد. به عنوان مثال، تصور کنید الگوریتمی بتواند معضلات اخلاقی را ارزیابی کند، مشکلاتی همچون تصمیم‌گیری بین دو نتیجه نامطلوب در خودروهای خودران یا ارائه راهنمایی‌هایی برای شیوه‌های اخلاقی در کسب‌وکار. با اینکه چنین سناریوهایی پتانسیل بالای هوش مصنوعی را نشان می‌دهند، پرسش‌های بنیادینی را نیز به همراه دارند: چه کسی چارچوب اخلاقی هدایت‌کننده این ابزارها را تعیین می‌کند؟ و آیا می‌توان به هوش مصنوعی برای تصمیماتی با تبعات اخلاقی اعتماد کرد؟
چشم‌انداز OpenAI
این کمک مالی برای توسعه الگوریتم‌هایی به کار گرفته می‌شود که قضاوت‌های اخلاقی انسانی را در حوزه‌هایی مانند پزشکی، حقوق و تجارت پیش‌بینی کنند؛ حوزه‌هایی که اغلب شامل معضلات پیچیده اخلاقی هستند. هرچند پتانسیل این پروژه بسیار قابل توجه است، اما هوش مصنوعی همچنان در درک ظرایف احساسی و فرهنگی اخلاق با چالش روبرو است. سیستم‌های کنونی در تشخیص الگوها بسیار توانمند هستند، اما فاقد آن درک عمیقی هستند که برای استدلال اخلاقی ضروری است.
یکی دیگر از نگرانی‌ها در مورد چگونگی استفاده از این فناوری است. اگرچه هوش مصنوعی می‌تواند در تصمیم‌گیری‌های نجات‌بخش کمک کند، کاربرد آن در استراتژی‌های دفاعی یا نظارتی معضلات اخلاقی را مطرح می‌کند. آیا می‌توان اقدامات غیراخلاقی هوش مصنوعی را صرفاً به دلیل تأمین منافع ملی یا هماهنگی با اهداف اجتماعی توجیه کرد؟ این سوالات، پیچیدگی‌های ادغام اخلاق در سیستم‌های هوش مصنوعی را نمایان می‌کنند.
چالش‌ها و فرصت‌ها
ادغام اخلاق در هوش مصنوعی چالشی بزرگ و نیازمند همکاری بین رشته‌های مختلف است. اخلاق امری جهانی نیست و تحت تأثیر ارزش‌های فرهنگی، شخصی و اجتماعی شکل می‌گیرد، و همین موضوع باعث می‌شود که کدگذاری آن در الگوریتم‌ها دشوار باشد. علاوه بر این، بدون سازوکارهایی همچون شفافیت و پاسخگویی، خطر تقویت سوگیری‌ها یا ایجاد کاربردهای مضر وجود دارد.
سرمایه‌گذاری OpenAI در تحقیقات دانشگاه دوک قدمی در جهت درک نقش هوش مصنوعی در تصمیم‌گیری اخلاقی به شمار می‌رود. با این حال، این مسیر هنوز طولانی است. توسعه‌دهندگان و سیاست‌گذاران باید با یکدیگر همکاری کنند تا ابزارهای هوش مصنوعی با ارزش‌های اجتماعی هماهنگ شوند و بر عدالت و شمول‌گرایی تأکید داشته باشند، در حالی که به سوگیری‌ها و پیامدهای ناخواسته نیز توجه می‌شود.
همانطور که هوش مصنوعی به طور فزاینده‌ای در فرآیندهای تصمیم‌گیری اهمیت می‌یابد، پیامدهای اخلاقی آن توجه بیشتری را می‌طلبد. پروژه‌هایی مانند «ایجاد اخلاق در هوش مصنوعی» نقطه شروعی برای پیمایش چنین چشم‌انداز پیچیده‌ای ارائه می‌دهند، جایی که نوآوری و مسئولیت‌پذیری باید با هم ترکیب شوند تا آینده‌ای شکل گیرد که فناوری در خدمت منافع عمومی باشد.
منبع: AI News