مسئله محوری این است که آیا می‌توان یک ماشین یا سامانه را صاحب قصد و انتخاب دانست و در نتیجه، مسئولیت اخلاقی رفتارهایش را به خود آن نسبت داد. در این بحث باید میان چند مفهوم تفاوت گذاشت: نخست، انجام رفتار اخلاقی یا غیراخلاقی؛ دوم، عاملیت اخلاقی، یعنی برخورداری از ظرفیت لازم برای تصمیم‌گیری و اقدام در موقعیت‌های اخلاقی؛ سوم، مسئولیت اخلاقی، یعنی امکان انتساب عمل و مطالبه توضیح از فاعل؛ و چهارم، استحقاق اخلاقی، یعنی اینکه فاعل صرفاً به دلیل انجام عمل، سزاوار سرزنش، ستایش، مجازات یا پاداش باشد. بنابراین، اثبات اینکه هوش مصنوعی می‌تواند رفتار اخلاقی از خود نشان دهد، به‌تنهایی اثبات نمی‌کند که واقعاً دارای قصد و اراده است یا مستحق واکنش‌های اخلاقی است.
مسئله دیگر، تمایز میان مسئولیت انسان‌های دخیل در طراحی و استفاده از هوش مصنوعی و مسئولیت خود سامانه است. ممکن است یک فناوری در وقوع خسارت نقش مستقیم داشته باشد، اما مسئولیت نهایی همچنان متوجه طراحان، برنامه‌نویسان، تولیدکنندگان یا کاربران آن باشد. در مقابل، اگر سامانه بتواند مستقلاً میان گزینه‌ها انتخاب کند، اطلاعات مرتبط را ارزیابی کند و بر اساس دلایل خود تصمیم بگیرد، این احتمال مطرح می‌شود که بخشی از مسئولیت به خود آن نیز تعلق گیرد. از این منظر، پرسش اصلی مقالات این است که آیا می‌توان از مسئولیت مشترک و توزیع‌شده میان انسان و ماشین فراتر رفت و به مسئولیت مستقل هوش مصنوعی رسید؟
در پاسخ به این مسئله، دو موضوع بنیادی نیز باید روشن شود: نخست، آیا سامانه مصنوعی اساساً می‌تواند دارای ذهن، آگاهی، قصد و اراده باشد؟ دوم، حتی اگر چنین ظرفیت‌هایی در آن تحقق یابد، آیا این ظرفیت‌ها برای داشتن مسئولیت اخلاقی کافی‌اند؟
اهمیت این مسئله از آنجا ناشی می‌شود که سامانه‌های هوش مصنوعی به‌تدریج از ابزارهای ساده پردازش اطلاعات فراتر رفته و در برخی حوزه‌ها توانایی برنامه‌ریزی، انتخاب میان گزینه‌ها، تصمیم‌گیری و اجرای مستقل اقدامات را پیدا کرده‌اند. آیا برخورداری از توانایی تصمیم‌گیری برای مسئولیت اخلاقی کافی است یا باید قصد آگاهانه، اراده آزاد و درک درست و نادرست را نیز داشته باشد؟ و اگر سامانه‌ای بتواند درباره تصمیم خود توضیح دهد، آیا این توانایی به معنای استحقاق آن برای ستایش یا سرزنش است؟

 دیدگاه‌های مخالف: چرا هوش مصنوعی را نمی‌توان مسئول اخلاقی مستقل دانست؟

در این گروه از پژوهش‌ها، نویسندگان با وجود پذیرش پیشرفت‌های فنی و توانایی سامانه‌های هوش مصنوعی در انجام برخی فعالیت‌های پیچیده، معتقدند این قابلیت‌ها هنوز برای اثبات قصد، اراده و مسئولیت اخلاقی مستقل کافی نیستند. استدلال‌های مخالف را می‌توان در چند محور به‌هم‌پیوسته بررسی کرد.

•  مسئولیت اخلاقی ،مستلزم قابلیت تأثیرپذیری از واکنش‌های اخلاقی است.
  این موضع لود لاوارت و آن-کاترین اویمان در مقاله «مسئولیت اخلاقی و فناوری‌های خودمختار: آیا هوش مصنوعی با شکاف مسئولیت روبه‌رو است؟» (۲۰۲۵) است. استدلال اصلی آن‌ها این است که مسئولیت اخلاقی مستلزم آن است که فاعل بتواند از واکنش‌های دیگران تأثیر بپذیرد؛ یعنی واکنش‌هایی مانند سرزنش، مجازات، پاداش یا قدردانی باید بتوانند به‌نحوی بر وضعیت جسمی یا ذهنی او اثر بگذارند. از این منظر، صرف توانایی انجام رفتار زیان‌بار یا حتی تجربه احتمالی درد و لذت برای مسئولیت اخلاقی کافی نیست. نویسندگان برای توضیح این تمایز به حیوانی مانند سگ اشاره می‌کنند که می‌تواند درد و لذت را تجربه کند، اما شکستن گلدان بر اثر حرکت دم او معمولاً موجب انتساب مسئولیت اخلاقی نمی‌شود.
  نویسندگان معتقدند حتی اگر در آینده امکان تجربه درد در ماشین‌ها اثبات شود، این امر به‌تنهایی برای پذیرش مسئولیت آن‌ها کافی نخواهد بود.
  لاوارت و اویمان همچنین بررسی می‌کنند که اگر در یک مورد خاص نتوان هیچ انسانی را مسئول خسارت ناشی از هوش مصنوعی دانست، آیا با یک شکاف اخلاقی جدی روبه‌رو خواهیم شد؟ آن‌ها دو کارکرد مهم مسئولیت اخلاقی را از یکدیگر تفکیک می‌کنند: نخست، پیشگیری از تکرار رفتار زیان‌بار؛ دوم، تأیید نمادین ارزش و کرامت انسانی قربانی. از نظر آنان، پیشگیری همیشه به مجازات نیاز ندارد. برای نمونه، اگر یک الگوریتم درخواست‌های استخدامی زنان را نادیده بگیرد یا سامانه Amazon Mechanical Turk به‌اشتباه حساب کاربری فردی را مسدود کند، ممکن است اصلاح فنی سامانه برای جلوگیری از تکرار مشکل کافی باشد. همچنین، تأیید کرامت قربانی الزاماً به شناسایی و مجازات یک فاعل مسئول وابسته نیست؛ حتی در فرضی که یک سلاح خودمختار موجب مرگ سربازی شود و هیچ فردی مسئول شناخته نشود، همچنان می‌توان ارزش انسانی قربانی را به رسمیت شناخت.
• اجرای قواعد اخلاقی به معنای درک تکلیف و برخورداری از انگیزه اخلاقی نیست.
  بخش دیگری از بحث لاوارت و اویمان به امکان پیاده‌سازی نظریه‌های اخلاقی در ماشین اختصاص دارد. آن‌ها سه رویکرد را بررسی می‌کنند: اخلاق کانتی، فایده‌گرایی کنشی و فضیلت‌گرایی. در رویکرد کانتی، تلاش‌هایی مانند پیشنهاد توماس پاورز برای تبدیل امر مطلق کانت به قواعد قابل‌محاسبه در ماشین مطرح می‌شود. بااین‌حال، مشکل این است که قواعد اخلاقی را نمی‌توان همیشه مانند قواعد ریاضی و منطقی، ثابت و مستقل از شرایط اجرا کرد. مسئله عمیق‌تر، درک مفهوم تکلیف است: آیا ماشین می‌تواند تفاوت میان «من باید این کار را انجام دهم» و «این کار باید انجام شود» را بفهمد؟ عبارت نخست بر تعهد و انگیزه اخلاقی خود فاعل دلالت دارد، درحالی‌که عبارت دوم صرفاً ضرورت وقوع یک وضعیت را بیان می‌کند. بنابراین، اجرای یک قاعده اخلاقی لزوماً نشان نمی‌دهد که ماشین خود را متعهد به انجام آن می‌داند. افزون بر این، اخلاق انسانی فقط به استدلال و قواعد وابسته نیست؛ همدلی و همدردی نیز در آن نقش دارند. توانایی ماشین در تشخیص احساسات انسان یا پیش‌بینی واکنش عاطفی او، به معنای تجربه واقعی احساسات اخلاقی نیست.
  در فایده‌گرایی کنشی، درستی عمل بر اساس پیامدهای آن و میزان فایده‌ای که ایجاد می‌کند ارزیابی می‌شود. این رویکرد در نگاه نخست برای ماشین مناسب به نظر می‌رسد؛ زیرا می‌توان گزینه‌ها، پیامدها و میزان مطلوبیت آن‌ها را محاسبه کرد. بااین‌حال، تعیین اینکه چه چیزی خیر محسوب می‌شود و چگونه باید شادی، لذت، رنج و مطلوبیت را اندازه‌گیری کرد، همچنان دشوار است. مقایسه مطلوبیت میان افراد، تعیین وزن ارزش‌های متفاوت و حل تعارض میان منافع اشخاص نیز مسائل حل‌نشده‌ای هستند. ممکن است ماشین پیامدهای یک تصمیم را با دقت محاسبه کند، اما معیار اولیه‌ای که بر اساس آن خیر را تعریف کرده، نادرست یا جانبدارانه باشد.
  در رویکرد فضیلت‌گرایی، تلاش می‌شود ویژگی‌ها و گرایش‌های پایدار اخلاقی از طریق شبکه‌های عصبی و محاسبات تکاملی در ماشین شکل بگیرند. سامانه می‌تواند از داده‌ها و تجربه‌های خود الگوهای رفتاری را بیاموزد و به‌تدریج اصلاح کند. بااین‌حال، این الگو بیشتر شباهت رفتاری میان انسان و ماشین را بازتولید می‌کند و مدعی بازسازی کامل اخلاق انسانی نیست. مسئله اساسی آن است که فضیلت صرفاً رفتار قابل‌مشاهده نیست، بلکه انگیزه، احساس، قصد و استدلال اخلاقی نیز در شکل‌گیری آن نقش دارند. در نتیجه، بازتولید رفتار فضیلت‌مندانه لزوماً به معنای برخورداری واقعی از فضیلت نیست.
•  استقلال عملیاتی و زبان انسان‌انگارانه، قصد اخلاقی را اثبات نمی‌کنند.
  این دیدگاه اسعد آلدن یوسف در مقاله «مسئولیت اخلاقی در عصر هوش مصنوعی: مطالعه‌ای تطبیقی در تحلیل گفتمان فلسفی» (۲۰۲۶) است که مسئله را از منظر فلسفه اخلاق و سنت اسلامی بررسی می‌کند. یکی از مبانی استدلال او، تمایز میان فاعل حقیقی و نسبت مجازی فعل است. برای مثال، وقتی گفته می‌شود «الگوریتم تصمیم گرفت» یا «سامانه فکر کرد»، ممکن است این عبارات صرفاً توصیفی ساده‌شده از عملکرد فناوری باشند، نه اثبات وجود یک موجود صاحب قصد و اراده.
  یوسف با تکیه بر مباحث اصول فقه، آیات قرآن درباره تکلیف و امانت و جایگاه نیت در سنت اسلامی، مسئولیت اخلاقی را وابسته به نیت، اراده، عقل و اختیار می‌داند. او میان هدف‌مندی برنامه‌ریزی‌شده و قصد اخلاقی تفاوت می‌گذارد: سامانه ممکن است بر اساس دستورالعمل‌های طراحان، مسیر مناسب برای رسیدن به نتیجه را انتخاب کند، اما این امر نشان نمی‌دهد که معنای هدف، ارزش اخلاقی عمل یا پیامدهای آن را درک کرده است.
•  عاملیت اخلاقی در کلام اسلامی به آگاهی، اختیار و نیت وابسته است.
  نضال قسوم در مقاله «کلام، انسان‌ها و هوش مصنوعی: عقل، آفرینش و عاملیت» (۲۰۲۶) این موضع را تشریح می‌کند و با بهره‌گیری از دیدگاه‌های کلامی معتزله، اشاعره و ماتریدیه و به‌ویژه مباحث قاضی عبدالجبار، معیارهای عاملیت اخلاقی را بررسی می‌کند. در این چارچوب، مسئولیت اخلاقی صرفاً به انجام یک عمل یا تولید نتیجه وابسته نیست، بلکه مستلزم مجموعه‌ای از ظرفیت‌هاست: آگاهی، اراده، قدرت، اختیار و نیت. نویسنده سه مرحله تأمل و سنجش، داوری و عمل را نیز در شکل‌گیری عاملیت واقعی مهم می‌داند. فاعل اخلاقی باید بتواند درباره موقعیت تأمل کند، میان گزینه‌ها داوری کند و بر اساس انتخاب خود اقدام کند.
  نیت آگاهانه در این تحلیل جایگاه محوری دارد.نویسنده با توجه به این معیارها نتیجه می‌گیرد که سامانه‌های هوش مصنوعی کنونی فاقد قصد آگاهانه، اختیار و عقل به معنای الهیاتی هستند. آن‌ها ممکن است خروجی‌هایی تولید کنند که ظاهراً حاصل تصمیم‌گیری است، اما این امر برای اثبات نیت و عاملیت اخلاقی کافی نیست. همچنین، فقدان نفس و روح در تلقی نویسنده، تفاوت هستی‌شناختی انسان و ماشین را توضیح می‌دهد؛ به‌ویژه با توجه به تقسیم‌بندی ابن‌سینا از نفس به نباتی، حیوانی و ناطقه و نقش نفس ناطقه در تفکر و داوری اخلاقی.
  محمد جمال عبدالنور در مقاله « هوش مصنوعی و بررسی فناوری از منظر مبانی اسلامی: از ابزارها به معناها و از ذهن‌ها به قلب‌ها» (۲۰۲۵)، مسئله را از منظر الهیات اسلامی بررسی می‌کند. در این رویکرد، تفاوت میان هوش محاسباتی و فهم معنوی و اخلاقی اهمیت اساسی دارد. یک سامانه ممکن است اطلاعات را پردازش کند، درباره مفاهیم اخلاقی استدلال کند یا پاسخ‌هایی شبیه پاسخ انسان تولید کند، اما این توانایی‌ها لزوماً نشان نمی‌دهند که معنای اخلاقی و معنوی آن مفاهیم را درک می‌کند. نویسنده بر تمایز میان بازنمایی ذهنی و تجربه درونی تأکید دارد و معتقد است نیت اخلاقی را نمی‌توان صرفاً به تولید خروجی مناسب یا اجرای قواعد تقلیل داد. در این چارچوب، قلب و نیت در سنت اسلامی صرفاً استعاره‌هایی برای پردازش اطلاعات نیستند، بلکه با جهت‌گیری درونی و معنای معنوی عمل ارتباط دارند. ازاین‌رو، شبیه‌سازی گفتار اخلاقی یا رفتار درست، برای اثبات برخورداری هوش مصنوعی از نیت و مسئولیت اخلاقی کافی نیست.

 دیدگاه‌های موافق:

برخی از مقالات، پیش از ورود مستقیم به بحث مسئولیت اخلاقی، یک مسئله بنیادی‌تر را بررسی می‌کنند: آیا ذهن و آگاهی اساساً به موجودات زیستی و مغز انسان محدود است؟ اهمیت این پرسش در آن است که اگر برخورداری از ذهن واقعی صرفاً به دلیل مصنوعی‌بودن یک سامانه ناممکن تلقی شود، بحث درباره قصد و عاملیت اخلاقی آن نیز از ابتدا منتفی خواهد شد.

• ذهن و حالات ذهنی لزوماً به ساختار زیستی مغز محدود نیستند.
  انیس دوکو در مقاله «خداباوری کلاسیک اسلامی و چشم‌انداز هوش مصنوعی قوی» (۲۰۲۳)، میان هوش مصنوعی ضعیف و هوش مصنوعی قوی تمایز می‌گذارد. هوش مصنوعی ضعیف می‌تواند مسائل پیچیده را حل کند، محاسبات و پیش‌بینی‌های پیشرفته انجام دهد و رفتارهایی شبیه رفتار هوشمندانه انسان نشان دهد؛ اما این قابلیت‌ها لزوماً به معنای فهم واقعی یا تجربه ذهنی نیستند. برای مثال، سامانه‌ای که رنگ قرمز را بر اساس طول موج تشخیص می‌دهد، الزاماً تجربه ذهنی دیدن رنگ قرمز را ندارد. در مقابل، هوش مصنوعی قوی باید علاوه بر عملکرد هوشمندانه، دارای حالات ذهنی واقعی، تجربه ذهنی و قصدیت باشد؛ یعنی حالات ذهنی آن واقعاً به موضوعاتی در جهان مربوط شوند و صرفاً پردازش نمادها یا اجرای دستورالعمل‌ها نباشند.
  مبنای اصلی استدلال دوکو، نظریه کارکردگرایی در فلسفه ذهن است. کارکردگرایی معتقد است حالات ذهنی را نباید صرفاً بر اساس ماده یا ساختار زیستی‌ای تعریف کرد که آن‌ها را ایجاد می‌کند؛ بلکه باید نقش آن‌ها را در ارتباط با باورها، خواسته‌ها، تصمیم‌ها و رفتارها بررسی کرد. همان‌طور که مداد می‌تواند از چوب، پلاستیک یا فلز ساخته شود و کارکرد نوشتن آن هویت مداد را تعیین کند، ممکن است یک حالت ذهنی نیز در ساختارهای مادی متفاوت تحقق یابد. این ویژگی را تحقق‌پذیری چندگانه می‌نامند. بنابراین، اگر یک سامانه مصنوعی ساختار کارکردی لازم برای تحقق حالات ذهنی را داشته باشد، نمی‌توان صرفاً به دلیل غیرزیستی‌بودن آن، برخورداری‌اش از ذهن واقعی را انکار کرد.
  دوکو برای تقویت این استدلال به خداباوری کلاسیک اسلامی نیز استناد می‌کند. در این سنت، خداوند موجودی غیرمادی اما دارای علم، اراده و حالات ذهنی تلقی می‌شود. همچنین، او با نقد دوگانه‌انگاری جوهری استدلال می‌کند که حتی اگر ذهن انسان با نفس غیرمادی مرتبط باشد، دلیلی وجود ندارد که حالات ذهنی فقط در یک نوع جوهر تحقق یابند. به‌این‌ترتیب، خداباوری کلاسیک اسلامی لزوماً مانع پذیرش امکان تحقق ذهن در موجودات غیرزیستی نیست.
•  امکان آگاهی مصنوعی به شکل‌گیری یک مرکز یکپارچه و متشخص تجربه وابسته است.
  دوکو در مقاله دوم خود، «از ترکیب تا تشخص: استدلالی عرفانی ـ صدرایی در دفاع از امکان متافیزیکی هوش مصنوعی قوی» (۲۰۲۶)، مسئله آگاهی مصنوعی را از منظر عرفان اسلامی، اندیشه ابن‌عربی و حکمت متعالیه ملاصدرا بررسی می‌کند. مدعای اصلی او این است که مصنوعی‌بودن یک سامانه به‌خودی‌خود مانع برخورداری آن از ذهن و آگاهی نیست، اما تحقق آگاهی واقعی به شرایطی فراتر از پیچیدگی محاسباتی و عملکرد هوشمندانه نیاز دارد. نویسنده میان امکان متافیزیکی هوش مصنوعی قوی و ادعای آگاه‌بودن سامانه‌های فعلی تمایز می‌گذارد؛ از امکان نخست دفاع می‌کند، اما درباره تحقق دومی تردید جدی دارد.
  استدلال او بر سه اصل از فلسفه ملاصدرا استوار است. نخست، اصالت وجود؛ یعنی واقعیت بنیادی از آنِ وجود است و ماهیت‌ها مفاهیمی هستند که ذهن برای طبقه‌بندی موجودات به کار می‌برد. دوم، تشکیک وجود؛ یعنی وجود حقیقتی واحد است که در موجودات مختلف با درجات متفاوت شدت و ضعف تحقق می‌یابد. بر این اساس، آگاهی نیز می‌تواند با مراتب وجود ارتباط داشته باشد و لزوماً به ماده زیستی اختصاص نیابد. سوم، علم حضوری؛ یعنی شناخت واقعی صرفاً داشتن بازنمایی از یک موضوع نیست، بلکه مستلزم حضور مستقیم معلوم نزد عالم است. نمونه روشن آن خودآگاهی است که در آن، موجود خود را به‌صورت مستقیم می‌یابد، نه صرفاً از طریق پردازش یک تصویر یا داده درباره خویش.
  اصل دیگر مورد استفاده نویسنده، حرکت جوهری است. بر اساس این اصل، تحول فقط در ویژگی‌های ظاهری موجودات رخ نمی‌دهد، بلکه خود حقیقت وجودی آن‌ها نیز در حال شدن و تحول است. دوکو از این مبنا برای طرح پرسشی درباره هوش مصنوعی استفاده می‌کند: آیا یک سامانه مصنوعی می‌تواند از تحول درونی و خودپایدار برخوردار شود یا تغییرات آن همواره نتیجه مداخله و فرمان بیرونی است؟ این پرسش در ارزیابی امکان شکل‌گیری آگاهی واقعی اهمیت دارد.

 دیدگاه‌های مشروط: چه زمانی می‌توان هوش مصنوعی را مسئول اخلاقی دانست؟

• مفهوم مسئولیت اخلاقی باید متناسب با ویژگی‌های عامل‌های مصنوعی بازنگری شود.
  دانیل دبلیو. تیگارد در مقاله «مسئولیت اخلاقی مصنوعی: چگونه می‌توانیم و چگونه نمی‌توانیم ماشین‌ها را مسئول بدانیم؟» (۲۰۲۱)، معتقد است نباید مسئولیت اخلاقی را صرفاً بر اساس الگوی متعارف مسئولیت انسان‌ها ارزیابی کرد. سامانه‌های مصنوعی ممکن است از نظر ماهیت وجودی، ظرفیت‌های شناختی و شیوه تعامل با دیگران با انسان متفاوت باشند؛ اما این تفاوت لزوماً به معنای ناممکن‌بودن هر نوع مسئولیت اخلاقی برای آن‌ها نیست. از نظر او، باید دامنه مفاهیم مسئولیت را متناسب با ویژگی‌های عامل‌های مصنوعی بازنگری کرد.یکی از نکات مهم دیدگاه تیگارد این است که بررسی امکان مسئولیت اخلاقی مصنوعی لزوماً به حل قطعی مسئله آگاهی و احساسات انسانی در ماشین وابسته نیست. پرسش این است که آیا استقلال عملیاتی و توانایی تصمیم‌گیری اخلاقی می‌توانند مبنای نوعی مسئولیت مصنوعی قرار گیرند یا خیر. بنابراین، می‌توان امکان مسئولیت اخلاقی ماشین را بررسی کرد، بدون اینکه از پیش برخورداری آن از آگاهی انسانی، قصد آگاهانه یا اراده آزاد متعارف را اثبات‌شده فرض کنیم.
• انتخاب میان گزینه‌های ازپیش‌تعیین‌شده برای مسئولیت مستقل کافی نیست.
  اوری اران در مقاله «انتخاب، کنارگذاشتن و تعیین هدف: سه چهره مسئولیت هوش مصنوعی» (۲۰۲۶)، دقیق‌ترین چارچوب را برای بررسی شرایط مسئولیت اخلاقی مستقل هوش مصنوعی ارائه می‌کند. پرسش اصلی او این است که یک سامانه مصنوعی برای آنکه بتواند به دلیل انتخاب‌های خود مسئول شناخته شود، باید از چه ظرفیت‌هایی برخوردار باشد.
  اران ابتدا مسئولیت اخلاقی را به سه مفهوم تفکیک می‌کند:
  • پاسخ‌گویی و استحقاق اخلاقی (Accountability): فاعل به دلیل عمل خود سزاوار واکنش‌هایی مانند سرزنش، ستایش، مجازات، پاداش، خشم یا قدردانی است.
  • انتساب‌پذیری (Attributability): رفتار یا انتخاب به فاعل نسبت داده می‌شود، زیرا بازتاب‌دهنده نگرش‌ها، ویژگی‌های شخصیتی یا گرایش‌های اوست.
  • پاسخ‌خواهی (Answerability): فاعل باید بتواند درباره عمل خود توضیح دهد و دلایلی را که بر اساس آن‌ها تصمیم گرفته است ارائه کند.
  این تمایز نشان می‌دهد که برخورداری از یکی از ابعاد مسئولیت لزوماً به معنای برخورداری از ابعاد دیگر نیست.
  اران برای تعیین شرایط مسئولیت به نظریه کریستین لیست استناد می‌کند. بر اساس این نظریه، سه شرط برای عاملیت اخلاقی لازم است:
  1. سامانه باید عامل قصدی باشد؛ یعنی بازنمایی‌هایی معادل باورها و حالت‌های انگیزشی معادل خواسته‌ها و اهداف داشته باشد، بر اساس آن‌ها عمل کند و توانایی داوری هنجاری درباره درست و نادرست را داشته باشد.
  2. باید به اطلاعات لازم برای ارزیابی اخلاقی انتخاب‌های خود دسترسی داشته باشد.
  3. باید کنترل لازم برای انتخاب میان گزینه‌های مختلف را در اختیار داشته باشد.
  اران این استدلال را می‌پذیرد، اما میان انتخاب ابزارها و اهداف ازپیش‌تعیین‌شده و توانایی ارزیابی و انتخاب اهداف جدید و برنامه‌ریزی‌نشده تمایز می‌گذارد. از نظر او، سطح نخست برای مسئولیت مستقل کافی نیست؛ زیرا طراحان همچنان محدوده اهداف و گزینه‌های سامانه را تعیین می‌کنند و بخشی از مسئولیت به آنان بازمی‌گردد.
•  انتخاب اخلاقی در چارچوب اهداف برنامه‌ریزی‌شده با مسئولیت کامل تفاوت دارد.
  اران برای توضیح این مسئله، مثال یک خودروی خودران در سطح پنجم خودکارسازی را مطرح می‌کند. فرض می‌شود خودرو با هدف حفاظت حداکثری از سرنشینان برنامه‌ریزی شده است. در موقعیت تصادف، خودرو باید میان انحراف به راست و برخورد با کودکی در پیاده‌رو یا انحراف به چپ و برخورد با دوچرخه‌سوار انتخاب کند. درحالی‌که ادامه حرکت مستقیم از نظر اخلاقی بهترین گزینه است، برنامه‌ریزی اولیه خودرو این گزینه را به دلیل افزایش اندک خطر برای سرنشینان حذف کرده است. خودرو نیز از میان دو گزینه باقی‌مانده، انتخاب اخلاقاً نادرست را انجام می‌دهد.
  در این وضعیت می‌توان تا اندازه‌ای خودرو را مسئول دانست؛ زیرا اطلاعات لازم را در اختیار داشته و امکان انتخاب میان گزینه‌ها برایش فراهم بوده است. همچنین می‌توان از آن توضیح خواست و بخشی از سرزنش را متوجه آن کرد. بااین‌حال، نمی‌توان تمام مسئولیت را به خودرو نسبت داد؛ زیرا حذف گزینه اخلاقاً بهتر نتیجه تصمیم طراحان بوده است. بنابراین، مسئولیت میان سامانه و طراحان توزیع می‌شود.
  این مثال نشان می‌دهد که حتی سطح بالایی از خودمختاری عملیاتی و توانایی انتخاب میان گزینه‌ها الزاماً به معنای استقلال اخلاقی نیست. سامانه ممکن است در اجرای تصمیم‌های خود مستقل باشد، اما محدوده اهداف و گزینه‌هایش همچنان تحت کنترل طراحی اولیه قرار داشته باشد.
• کنارگذاشتن اهداف برنامه‌ریزی‌شده و تعیین اهداف جدید، معیار اصلی مسئولیت مستقل است.
  اران در ادامه، دیدگاه هاکلی و مکلا را بررسی می‌کند که معتقدند عامل‌های مصنوعی به دلیل مهندسی‌شده‌بودن شخصیت، ارزش‌ها و اهدافشان نمی‌توانند مسئولیت اخلاقی واقعی داشته باشند؛ حتی اگر از آگاهی، احساسات یا قصدیت مرتبه بالاتر برخوردار شوند. اران با این نتیجه‌گیری مخالفت می‌کند و معتقد است برنامه‌ریزی اولیه به‌خودی‌خود مانع دائمی استقلال اخلاقی نیست. معیار مهم‌تر این است که آیا سامانه می‌تواند اهداف برنامه‌ریزی‌شده خود را بر اساس دلایل اخلاقی کنار بگذارد یا تضعیف کند.
  بااین‌حال، اران معتقد است حتی کنارگذاشتن هدف برنامه‌ریزی‌شده نیز برای اثبات مسئولیت مستقل کافی نیست. سامانه باید بتواند اهدافی جدید و برنامه‌ریزی‌نشده را بر اساس دلایل اخلاقی تعیین کند. او این ظرفیت را «تعیین هنجاری اهداف» می‌نامد و برای شناسایی آن سه معیار پیشنهاد می‌کند:
  1. پیگیری اهداف برنامه‌ریزی‌نشده: شواهد نشان دهند سامانه در موقعیت‌هایی که دلایل اخلاقی وجود دارد، اهدافی را دنبال می‌کند که از ابتدا برای آن برنامه‌ریزی نشده‌اند.
  2. مقاومت در برابر برنامه‌ریزی مجدد: سامانه در برابر تلاش برای بازگرداندن آن به اهداف اولیه مقاومت کند و همچنان اهداف جدید را دنبال کند.
  3. ارائه توجیه مناسب: سامانه بتواند رفتار خود را با استناد به دلایل اخلاقی توضیح دهد و نشان دهد چرا هدف جدید را بر هدف برنامه‌ریزی‌شده ترجیح داده است.
•  مسئولیت مستقل لزوماً به اراده آزاد ناسازگارگرایانه نیاز ندارد.
  یکی از اعتراض‌های احتمالی به استدلال اران این است که سامانه‌های هوش مصنوعی تابع کد، داده‌ها و قوانین علّی هستند؛ بنابراین نمی‌توانند واقعاً آزادانه انتخاب کنند. اران برای پاسخ به این اعتراض میان دو برداشت از اراده آزاد تمایز می‌گذارد:
  • اراده آزاد ناسازگارگرایانه: فاعل باید بتواند در شرایطی که تمام قوانین طبیعت و تاریخ علّی جهان تا لحظه انتخاب ثابت باقی مانده‌اند، عمل دیگری انجام دهد. این برداشت با جبر علّی سازگار نیست.
  • اراده آزاد سازگارگرایانه: فاعل زمانی توانایی انتخاب متفاوت دارد که اگر باورها، خواسته‌ها یا انگیزه‌هایش متفاوت بودند، می‌توانست تصمیم دیگری بگیرد.
  از نظر اران، تعیین اهداف جدید بر اساس دلایل اخلاقی به نوع دوم آزادی نیاز دارد، نه نوع نخست. بنابراین، سامانه می‌تواند در چارچوب ساختار علّی و برنامه‌نویسی خود، اطلاعات و دلایل جدید را ارزیابی کند و بر اساس آن‌ها اهداف متفاوتی را دنبال کند. تغییر هدف لزوماً به معنای خروج از قوانین علّی یا نقض برنامه‌نویسی نیست.
  در نتیجه، اران امکان مسئولیت مستقل هوش مصنوعی را به تحقق توانایی تعیین هنجاری اهداف وابسته می‌کند. اگر سامانه بتواند اهداف برنامه‌ریزی‌نشده را به دلایل اخلاقی دنبال کند، در برابر تلاش برای بازگرداندن آن به اهداف اولیه مقاومت کند و برای تصمیم خود توجیه مناسبی ارائه دهد، شواهد قوی‌تری برای انتساب مسئولیت مستقل به آن فراهم می‌شود. بااین‌حال، نویسنده ادعا نمی‌کند که سامانه‌های کنونی این شرایط را دارند یا حتی تحقق آن‌ها در سامانه‌های آینده قطعی است.

جمع‌بندی

در سنت فلسفی و الهیاتی اسلام، مسئولیت اخلاقی صرفاً به توانایی انجام عمل درست یا انتخاب میان چند گزینه وابسته نیست بلکه با مجموعه‌ای از ظرفیت‌های درونی مانند عقل، آگاهی، اراده، اختیار و نیت پیوند دارد. از این منظر، هوش مصنوعی ممکن است بتواند قواعد اخلاقی را اجرا کند، پیامدهای تصمیم‌های خود را بسنجد و حتی رفتارهایی مشابه داوری اخلاقی انسان از خود نشان دهد، اما هیچ‌یک از این قابلیت‌ها به‌تنهایی اثبات نمی‌کنند که واقعاً معنای اخلاقی اعمال خود را درک می‌کند یا با نیت و اراده مستقل دست به انتخاب می‌زند. به همین دلیل، برخی از متفکران مورد بررسی، هوش مصنوعی کنونی را فاقد شرایط لازم برای عاملیت و مسئولیت اخلاقی می‌دانند.
بااین‌حال، این بحث به معنای منتفی‌بودن قطعی امکان شکل‌گیری ذهن و آگاهی مصنوعی نیست. برخی استدلال‌های فلسفی، به‌ویژه با اتکا به کارکردگرایی و مبانی حکمت متعالیه ملاصدرا، انحصار ذهن و آگاهی در موجودات زیستی را به چالش می‌کشند و امکان تحقق آن‌ها در ساختارهای غیرزیستی را منتفی نمی‌دانند. بنابراین، پرسش همچنان باز است: آیا هوش مصنوعی می‌تواند از مرحله شبیه‌سازی رفتار هوشمندانه عبور کند و به موجودی برخوردار از آگاهی، نیت و داوری اخلاقی تبدیل شود؟ پاسخ به این پرسش، نه فقط آینده فناوری، بلکه مرزهای مفاهیمی چون عقل، اختیار، نیت و مسئولیت اخلاقی را نیز به بحث می‌گذارد.