خانه » مقالات » چالش تعریف اخلاق جهان‌شمول برای ماشین: «کلاد» دست به دامن ادیان شده است
چالش تعریف اخلاق جهان‌شمول برای ماشین: «کلاد» دست به دامن ادیان شده است
آیا می‌توان اخلاقی جهان‌شمول برای ماشین‌ها تعریف کرد؟
دوشنبه, ۱۱ خرداد ۱۴۰۵
زمان تقریبی مطالعه ۱۰ دقیقه
تصور کنید ماشینی که قرار است در لحظات بحرانی تصمیمات حیاتی بگیرد، با موقعیتی مواجه شود که هیچ قانون از پیش‌تعیین‌شده‌ای برایش وجود ندارد. سیلیکون‌ولی برای فرار از فاجعۀ ناشی از این خلأ به راهکار غافلگیرکننده‌ای رسیده است: نشاندن خاخام‌ها و اسقف‌ها دور میز توسعه‌دهندگان هوش مصنوعی. اما آیا گره کور اخلاق ماشینی واقعاً در کلیساها و معابد باز می‌شود؟

پیش از اسلام، از کعبه برای نگهداری ۳۶۰ نماد مقدس استفاده می‌شد که هر کدام نماد یک دین و آیین بود و به این ترتیب هر کسی با هر خواسته‌ای می‌توانست به آن رو کند. مثلاً اگر شما تاجری پرکار در مسیر مدینه بودید، یک دعا رو به کعبه نیازهای معنوی شما را یک‌جا برآورده می‌کرد و می‌توانستید با خاطری آسوده به راه خود ادامه دهید.

به نظر می‌رسد که شرکت آنتروپیک هم با بهره‌گیری از مدل کلاد اقدامات مشابهی را در دستور کار خود قرار داده است.

هفتۀ گذشته، هیئتی از نمایندگان آنتروپیک به اتفاق نمایندگان شرکت اوپن‌ای‌آی در نشستی با عنوان پیمان ایمان و هوش مصنوعی در نیویورک حضور یافتند. این رویداد با مشارکت و حضور نهادهای متعددی نظیر هیئت خاخام‌های نیویورک، انجمن معابد هندوی آمریکای شمالی، اعضای کلیسای مورمون، ائتلاف سیک‌های مقیم ایالات متحده و اسقف‌نشین ارتدکس یونانی آمریکا برگزار شد.

در ماه گذشته، گزارشی دربارۀ سلسله نشست‌ها و ضیافت‌هایی نوشتم که شرکت آنتروپیک با حضور ۱۵ تن از رهبران مسیحی تدارک دیده بود. هدف آنتروپیک این بود که از این افراد مشورت بگیرد و راهکارهایی برای «توسعۀ ابعاد معنوی» کلاد دریافت کند. در همان مقطع، این شرکت از برنامه‌ریزی برای برگزاری نشست‌هایی با اندیشمندان حوزۀ اخلاق و نمایندگان سایر گروه‌های مرتبط خبر داد.

با وجود انتشار گزارش جدید آسوشیتدپرس دربارۀ نشست «پیمان ایمان و هوش مصنوعی»، همچنان مشخص نیست که تعاملات اخیر آنتروپیک با رهبران مذهبی و دیدارهای پیشین این شرکت با گروه‌های مسیحی، اجزای یک راهبرد کلی و هماهنگ بوده‌اند یا صرفاً ابتکاراتی مستقل از یکدیگر. افزون بر این، هنوز معلوم نیست که آیا شرکت‌کنندگان اجلاس مسیحیان در این نشست نیز حضور داشته‌اند یا نه. گیزمودو روز شنبه از آنتروپیک درخواست توضیح کرد، اما تا زمان انتشار این گزارش پاسخی از سوی شرکت دریافت نشد.

طبق گزارش آسوشیتدپرس، اوپن‌ای‌آی و آنتروپیک شروع تعاملات را کلید زدند، اما سازماندهی این نشست در واقع کار یک سازمان غیردولتی سوئیسی به نام «اتحاد بین‌الادیان برای جوامع امن‌تر» [۱] بوده است؛ سازمانی که قصد دارد برنامه‌های مشابهی را در چین، کنیا و امارات هم اجرا کند. نکتۀ قابل توجه دیگر این است که از بارونس جوآنا شیلدز (عضو مجلس اعیان بریتانیا) با عنوان شریک کلیدی این جریان نام برده شده است.

هفتۀ گذشته، هیئتی از نمایندگان آنتروپیک به اتفاق نمایندگان شرکت اوپن‌ای‌آی در نشستی با عنوان پیمان ایمان و هوش مصنوعی در نیویورک حضور یافتند. این رویداد با مشارکت و حضور نهادهای متعددی نظیر هیئت خاخام‌های نیویورک، انجمن معابد هندوی آمریکای شمالی، اعضای کلیسای مورمون، ائتلاف سیک‌های مقیم ایالات متحده و اسقف‌نشین ارتدکس یونانی آمریکا برگزار شد.

در گزارش آسوشیتدپرس هیچ دستاورد یا نتیجه‌گیری روشنی به چشم نمی‌خورد. بااین‌حال، آنتروپیک سندی برای هوش مصنوعی خود دارد که آن را «منشور کلاد» می‌نامد. این منشور روی یک مسئلۀ بسیار سخت و پیچیدۀ فلسفی دست می‌گذارد. آن‌ها می‌خواهند ماشین را به نقطه‌ای برسانند که اگر در موقعیتی قرار گرفت که هیچ قانون از پیش تعیین‌شده‌ای وجود نداشت، بتواند مثل یک انسان بی‌نقص تصمیم درستی بگیرد. به‌خصوص که در چنین شرایطی، کوچک‌ترین اشتباه ماشین می‌تواند به یک فاجعه ختم شود. آنتروپیک در این باره توضیح می‌دهد: «نگرانیم که مبادا تلاش‌هایمان برای آموزش ارزش‌های اخلاقی کلاد بی‌نتیجه بماند».

در همین رابطه، آسوشیتدپرس در گزارش خود به نقل‌قولی ساده اما تأمل‌برانگیز از رومن چودوری [۲]، مدیرعامل سازمان غیرانتفاعی هوش انسانی [۳]پرداخته است. او می‌گوید: «به نظرم سیلیکون‌ولی در چند سال گذشته، درگیر یک خیال خام و ساده‌لوحانه دربارۀ هوش مصنوعی مولد بوده است؛ آن‌ها فکر می‌کردند که بالاخره می‌توانند به اصول اخلاقی مشترک و جهانی دست پیدا کنند». او ادامه می‌دهد: «اما خیلی زود فهمیدند که چنین چیزی اصلاً واقعیت ندارد و خیالی بیش نیست. برای همین است که حالا احتمالاً به سراغ دین رفته‌اند تا شاید راهی برای کنار آمدن با موقعیت‌های مبهم اخلاقی پیدا کنند».

شرکت آنتروپیک در حال بررسی ظرفیت‌های دین است. بااین‌حال، نباید تصور کرد که این شرکت قرار است به یک مذهب گرایش پیدا کند و احکام آن را در مدل کلاد برنامه‌نویسی کند. نیت اصلی آن‌ها چیز دیگری است؛ آن‌ها صرفاً در پی استخراج اصول کلان اخلاقی‌اند تا در نهایت به دنیا نشان دهند برای رسیدن به یک هوش مصنوعی اخلاق‌مدار، از هیچ تلاشی دریغ نکرده‌اند.

در نهایت، قضاوت به خود شما واگذار می‌شود: آیا ماشینی که مسئول تصمیم‌گیری‌های خطیر است، در شرایط بحرانی می‌تواند صرفاً با اتکا به جلسات سازندگانش با متولیان ادیان بزرگ، عملکردی کاملاً اخلاقی و آرمانی داشته باشد؟

شاید برگزاری این نشست‌ها بی‌ضرر باشد و رویکردی شبیه به همان ادای احترام به کعبه در عصر پیش از اسلام به شمار بیاید. با این وجود، از سرانجام این مسیر تنها خداوند آگاهی دارد.

منابع
سایر مقالات