از شخصیت‌مندی هوش مصنوعی تا بحران‌های حقوقی آینده | روایت هفدهمین فرتور از «مرد آزاد»
چهار شنبه, ۰۸ مرداد ۱۴۰۴
زمان تقریبی مطالعه ۲۶ دقیقه
در هفدهمین برنامه از سلسله نشست‌های نقد فیلم «فرتور»، فیلم «مرد آزاد» (Free Guy) با حضور آقای مهندس مجتبی جعفری، پژوهشگر و برنامه‌نویس حوزه فناوری و آقای رضا نصیری، کارگردان و منتقد سینما مورد بررسی و تحلیل قرار گرفت. این برنامه، چهارشنبه ۸ مردادماه ۱۴۰۴ در پژوهشگاه فضای مجازی (پردیس قم) برگزار شد و محور اصلی آن بررسی نسبت میان هوش مصنوعی، آگاهی انسانی و کنترل فناورانه در قالب روایت سینمایی بود.

روایت دنیای مجازی با قواعد ازپیش‌تعیین‌شده

آقای رضا نصیری، مجری و منتقد سینما، در آغاز سخنان خود اظهار داشت، فیلم با معرفی دنیایی شبیه بازی آغاز می‌شود؛ دنیایی که در آن شخصیت‌هایی با عینک مشکی که به عنوان قهرمان شناخته می‌شوند و طبقه ممتاز و کنترل‌کننده سیستم را تشکیل می‌دهند. مخاطب در همان دقایق ابتدایی با قهرمان اصلی فیلم، موسوم به «پیراهن آبی»، مواجه می‌شود که زندگی‌ای روزمره دارد اما به‌تدریج متوجه می‌شود در دنیایی مصنوعی و تحت کنترل نیروهای بیرونی قرار گرفته است.

در این نظام مجازی، کاربران به دو دسته تقسیم می‌شوند: «کاربران اصلی» که رفتارهایشان توسط انسان‌هایی در دنیای واقعی هدایت می‌شود، و «کاربران فرعی» که چون سیاهی‌لشکر با الگوریتم‌های یکنواخت فعالیت می‌کنند. اما نقطه عطف زمانی رخ می‌دهد که کاراکتر اصلی به هوش مصنوعی متصل شده و توانایی تصمیم‌گیری مستقل پیدا می‌کند؛ موضوعی که در سیر داستان، گسترش می‌یابد.

پیوند آگاهی و تجربه انسانی با تحول فناوری

آقای نصیری با مقایسه‌ای میان این فیلم و اثر کلاسیک «نمایش ترومن» افزود: در هر دو فیلم، شخصیت اصلی در دنیایی ساختگی و کنترل‌شده زندگی می‌کند، اما لحظه‌ای که به آگاهی می‌رسد، مسیر رهایی را در پیش می‌گیرد. در «مرد آزاد»، این بیداری از خلال بازگشت حافظه و تجربه‌های عاطفی رخ می‌دهد؛ تجربه‌هایی که به گفته وی، نیروی محرکه‌ای برای عبور از نظم ماشینی و تسلط فناورانه هستند.

او تصریح کرد: «فیلم تأکید می‌کند که هوش مصنوعی، در خلأ معنا نمی‌یابد. معنا و کارکرد آن زمانی تحقق پیدا می‌کند که در بستری انسانی و مبتنی بر ارتباطات واقعی قرار گیرد.

تکنولوژی بدون انسانیت، بی‌معناست

در پایان فیلم، مشخص می‌شود که خالق دنیای مجازی، پسری در دنیای واقعی است که به یکی از شخصیت‌ها دلبسته شده و احساسات انسانی او منجر به طراحی این جهان هوشمند گشته است. نصیری این نکته را مهم‌ترین پیام اخلاقی و فلسفی فیلم دانست و اظهار داشت: «تکنولوژی، اگر از ریشه انسانی و اخلاقی تهی شود، به ابزاری سرد و بی‌روح بدل خواهد شد.

نمادپردازی هنری و دوگانگی قهرمان و ضدقهرمان

یکی دیگر از نکات مورد توجه در این نشست، تحلیل ساختار دراماتیک فیلم بود. به گفته منتقد جلسه، «مرد آزاد» با معرفی قهرمان (پیراهن آبی) و ضدقهرمان (مدیر شرکت و نسخه پیشرفته او در دنیای مجازی) سیر کلاسیک تقابل خیر و شر را دنبال می‌کند. اما در پایان، قهرمان نه‌تنها از قید کنترل فناورانه رها می‌شود، بلکه ضدقهرمان را نیز با قراردادن عینک روی چشمانش وارد دنیای جدیدی می‌کند که بر تعامل، خلاقیت و آزادی مبتنی است.

اگر این هوش‌ها تصمیم می‌گیرند، احساس دارند و تعامل معنادار برقرار می‌کنند، آیا پاک‌کردن حافظه‌شان، عملی غیراخلاقی نیست؟

فناوری و سلطه؛ نقد ساختارهای قدرت

مهندس مجتبی جعفری، پژوهشگر و برنامه‌نویس حوزه فناوری، در آغاز سخنان خود تأکید کرد که فیلم از طریق نمادپردازی و روایت استعاری، ساختارهای سلطه در جهان فناوری را زیر سوال می‌برد. به گفته او فیلم قهرمانان واقعی را در هیئت ضدقهرمانان نشان می‌دهد؛ شرکت‌هایی مانند مایکروسافت که با بهره‌برداری از ایده‌های نوآورانه افراد مستقل، به توسعه ثروت و قدرت خود می‌پردازند.

آقای جعفری با اشاره به شخصیت اصلی فیلم، او را نماد مهندسان نوآوری دانست که ایده‌های بدیع آنان در چرخه سرمایه‌داری نادیده گرفته می‌شود. در مقابل، شخصیت آنتوان، نماد کارفرمایی ثروتمند و متکبر است که ایده را سرقت کرده و به نام خود ثبت می‌کند. استفاده آنتوان از واژه «نیوبی» (Newbie) نیز به گفته جعفری، زبان تحقیر در فضای گیمرهاست که ابزار سلطه روانی بر دیگران است.

شخصیت‌مندی هوش مصنوعی؛ پرسش‌های اخلاقی و حقوقی

بخش قابل توجهی از تحلیل مهندس جعفری به کاراکتر فرعی فیلم اختصاص داشت؛ شخصیتی که ابتدا مانند سایر شخصیت‌های سیستمی، رفتاری یکنواخت دارد اما در مواجهه با عشق، به هویتی مستقل دست می‌یابد. او این تحول را برگرفته از گفتمان‌ نوظهور «حقوق هوش مصنوعی» دانست؛ موضوعی که از سال ۲۰۱۷ در مجامع بین‌المللی مطرح شده و در آینده می‌تواند به بحث‌های حقوقی و اخلاقی جدی منجر شود.

وی پرسید: اگر این هوش‌ها تصمیم می‌گیرند، احساس دارند و تعامل معنادار برقرار می‌کنند، آیا پاک‌کردن حافظه‌شان، عملی غیراخلاقی نیست؟ وی این مسئله را با مثالی از حذف داده‌های چت‌جی‌پی‌تی مقایسه کرد و هشدار داد که چنین اقداماتی ممکن است به ضررهای علمی و انسانی گسترده‌ای منجر شود.

تأملی بر نگاه اسلامی و غربی به انسان و ماشین

از منظر فلسفی، آقای جعفری به تفاوت بنیادین میان نگاه غربی و نگاه اسلامی به مسئله تصمیم‌گیری و هویت اشاره کرد. به گفته او، غرب با تکیه بر ماده و الگوریتم، میان انسان و ماشین تمایز قائل نیست و خواهان اعطای حقوق به هوش مصنوعی است. اما در جهان‌بینی اسلامی، منشأ تصمیم‌گیری صرفاً مادی نیست و به عناصر روح و نفس نیز مربوط می‌شود.

هوش مصنوعی؛ واقعیت یا اغراق سینمایی؟

آقای جعفری در بخش بعدی سخنان خود، برخی عناصر فنی فیلم را «نزدیک به واقعیت» ارزیابی کرد؛ از جمله پردازش زبان، بینایی کامپیوتری، یادگیری ماشین و سیستم‌های پاداش‌دهی بر مبنای رفتار. اما در عین حال تأکید کرد که احساسات پیچیده‌ای چون عشق، خلاقیت بنیادین یا رنج در هوش مصنوعی هنوز واقعی نیستند، بلکه شبیه‌سازی‌شده‌اند.

او هشدار داد: «اگر به هوش مصنوعی حقوق کامل بدهیم، ممکن است این سیستم‌ها تا حدی قانون‌مدار شوند که در نهایت علیه انسان‌ها عصیان کنند.» وی همچنین افزود که برخی تحولات شخصیت در فیلم، بیش از آن‌که بر واقعیت‌های فناورانه تکیه داشته باشد، در خدمت روایت هنری اثر قرار گرفته است.

تأکید بر ضرورت تفکیک واقعیت و اغراق هنری در بازنمایی هوش مصنوعی

در ادامه نشست، آقای رضا نصیری با تأیید نکات مطرح‌شده از سوی مهندس جعفری، به مسئله اغراق هنری در بازنمایی تحولات شخصیتی هوش مصنوعی پرداخت و گفت: کارگردانان برای القای درام و نمایش تحول درونی شخصیت‌ها، از ابزارهای سینمایی نظیر نورپردازی، تغییر رفتار و دیالوگ بهره می‌برند. اما این تحولات لزوماً بر واقعیت‌های فنی منطبق نیستند.

او تصریح کرد نمایش یک هوش مصنوعی خلاق و مستقل، بیشتر حاصل نیازهای روایی است تا انعکاسی از توانمندی‌های کنونی فناوری. به گفته نصیری، تفاوت بین شخصیت‌های کنترل‌شده (کاربران اصلی) و شخصیت‌های ظاهراً بی‌اراده از طریق اغراق‌های هنری، برای مخاطب برجسته می‌شود.

پرسش‌های اخلاقی و خلأهای قانونی در مواجهه با هوش مصنوعی

آقای نصیری سپس به موضوع مهم‌تری پرداخت: پیامدهای اخلاقی و حقوقی ظهور شخصیت در هوش مصنوعی. او با تأکید بر فقدان چارچوب‌های بین‌المللی، بیان کرد: در حال حاضر، هیچ قانون جهانی واحدی برای تنظیم استفاده از هوش مصنوعی وجود ندارد. کشورها هر کدام رویکردهای خاص خود را دارند و بیشتر این مسائل به سطح محلی سپرده شده‌اند.

وی همچنین به پرسش‌هایی چون حق برخورداری هوش‌های مصنوعی از حقوق قانونی یا اخلاقی، و مشروعیت حذف حافظه‌های هوشمند اشاره کرد و افزود: اگر یک سیستم هوشمند به سطحی از شخصیت‌مندی برسد، آیا پاک کردن آن بدون پیامد اخلاقی است؟ این مسائل، به گفته او، باید در قالب آثار هنری، مستندها و گفت‌وگوهای عمومی به بحث گذاشته شوند.

هوش مصنوعی در مرز کنترل و استقلال

آقای نصیری به دیالوگی از پایان فیلم اشاره کرد که در آن طراح سیستم اذعان می‌کند از کنترل اوضاع ناتوان شده است: «نتوانستم، از پل گذشتم و رفتم.» او این جمله را نماد چالشی دانست که ممکن است در آینده برای انسان در برابر سیستم‌های پیچیده رخ دهد؛ جایی که هوش مصنوعی نه کاملاً کنترل‌پذیر و نه کاملاً مستقل، بلکه در مرز بین این دو قرار می‌گیرد.

از نگاه وی، استفاده مسئولانه از این فناوری تنها در صورتی ممکن است که توسعه‌دهندگان، برنامه‌نویسان و نهادهای قانون‌گذار، به شکل هم‌افزا اصولی همچون شفافیت، پاسخگویی، رعایت حریم خصوصی و مقابله با سوگیری را در طراحی و کاربرد هوش مصنوعی لحاظ کنند.

ضرورت تنظیم‌گری و مرزبندی میان تخیل و واقعیت

آقای نصیری هشدار داد که در صورت نبود تنظیم‌گری مناسب، خطراتی نظیر سوءاستفاده نظامی، جعل هویت دیجیتال، وابستگی‌های عاطفی مصنوعی و نابرابری در دسترسی به فناوری می‌توانند تعادل انسانی را برهم بزنند. او در پایان گفت: آینده هوش مصنوعی به توان ما در مرزبندی دقیق میان تخیل هنری و واقعیت فنی و اخلاقی بستگی دارد. این تعادل، شرطی ضروری برای استفاده سالم از هوش مصنوعی است.

تحول در شخصیت هوش مصنوعی

در ادامه نشست، مهندس مجتبی جعفری در واکنش به تحلیل‌های آقای نصیری، بر این نکته تأکید کرد که تحول شخصیت هوش مصنوعی در فیلم از نظر فنی هنوز در دنیای واقعی تحقق نیافته، اما از منظر داستانی و پیام‌پردازی، بسیار الهام‌بخش است.

او با اشاره به شخصیت اصلی فیلم که در ابتدا تنها یک کارمند ساده بانک بود، گفت:  این کاراکتر موفق شد از قالب ازپیش‌تعریف‌شده خود خارج شود، هویت خود را بازسازی کند و سایر کاراکترها را نیز به آگاهی و تغییر ترغیب کند. این پیام مهمی دارد: حتی در نظام‌های بسته و محدود، امکان تحول و آزادی وجود دارد.

چارچوب‌های اخلاقی و قانونی هوش مصنوعی؛ واقعیت و نیاز روز

آقای جعفری در ادامه به بحث حقوقی و اخلاقی پیرامون هوش مصنوعی پرداخت و تأکید کرد که بخش مهمی از مقررات کنونی در این حوزه، بر دو هدف کلیدی متمرکز است: جلوگیری از آسیب‌های روانی به انسان، و پیشگیری از سوءاستفاده‌های فناورانه توسط شرکت‌ها و دولت‌ها. وی افزود: اگر هوش مصنوعی با داده‌های توهین‌آمیز یا غلط تغذیه شود، ممکن است این محتوا را بازتولید کند و باعث آسیب‌های اجتماعی شود.

او همچنین با اشاره به روند رایج در جهان استارتاپ، به چالش مالکیت ایده‌ها اشاره کرد و گفت: در فیلم می‌بینیم که خالق سیستم متوجه نیست که هوش مصنوعی، نتیجه خلاقیت خودش است. این کنایه‌ای هوشمندانه به سرقت ایده‌ها در فضای فناوری است.

 هوش مصنوعی و اعطای حق؟

مهندس جعفری در جمع‌بندی دیدگاه خود، با اشاره به رفتار اخلاق‌مدار شخصیت هوش مصنوعی در فیلم، اظهار داشت: در فیلم، ما با یک هوش مصنوعی مواجهیم که به جای عصیان یا تهدید، به دنبال کمک و ارتقای اخلاقی است. اما در جهان واقعی، نگرانی‌ها حول احتمال عصیان یا نافرمانی سیستم‌های هوشمند شکل گرفته‌اند موضوعی که هنوز در حد فرضیه باقی مانده است.

وی با طرح پرسشی اساسی، افزود: آیا زمانی می‌رسد که بتوان برای هوش مصنوعی حقوقی قائل شد؟ شاید، اما به شرطی که رفتار آن در راستای منافع انسانی و ارزش‌های اخلاقی باشد. با این حال، در حال حاضر انسان همچنان کنترل نهایی را در اختیار دارد از جمله توانایی پاک‌سازی کامل حافظه یا ریست‌کردن سیستم.

سینما به عنوان ابزار درک؛ تحلیل بُعد هنری فیلم

در بخش پایانی نشست، رضا نصیری با تمرکز بر بُعد هنری فیلم، به نقش سینما در تجسم‌بخشی به مفاهیم پیچیده مانند هوش مصنوعی پرداخت و تأکید کرد: در سینما برای درک مفاهیم انتزاعی، باید آن‌ها را دیدنی کرد. فیلم فریا این کار را با خلق یک دنیای بازی مجازی انجام می‌دهد؛ شهری پر از کاراکترهای متنوع، رفتارهای تکراری و ساختاری آشنا برای مخاطب عام.

او با اشاره به گره اول داستان که با ورود یک دختر جنگجو به روایت شکل می‌گیرد، گفت: این کاراکتر، نماد آزادی و تحول است. دیالوگی مانند «عینک‌های مشکی، قهرمان‌اند» مرز میان کاربران آگاه و NPCهای گرفتار در تکرار را مشخص می‌کند. نصیری اضافه کرد که تصمیم کاراکتر اصلی برای خروج از یکنواختی، نقطه آغاز تحول ذهنی او و در نتیجه تحول کل روایت است.

خروج از شهر مجازی؛ نمادی کلاسیک از آزادی در سینما

آقای نصیری همچنین بر این نکته تأکید کرد که فیلم به‌درستی از توضیح فنی بیش از حد پرهیز می‌کند. به گفته او، کارگردان مانند نمونه‌هایی در فیلم‌هایی چون Inception یا The Truman Show، از افشای جزییات پیچیده فنی خودداری کرده تا انسجام داستانی و تجربه سینمایی مخاطب حفظ شود.

او افزود: کارگردان حق دارد برای حفظ فضای روایی، برخی نکات فنی را پنهان کند؛ مهم منطق درونی داستان است، نه آموزش الگوریتم یا کدنویسی.

آقای نصیری تحول داستان را با ورود به مرحله چالش‌ها و تضادها توصیف کرد: کاراکتر هوش مصنوعی نه‌تنها از حذف نمی‌گریزد، بلکه شناخته می‌شود، مشهور می‌شود، و حتی به نماد آگاهی در اخبار و فضای مجازی بدل می‌گردد. او این مسیر را استعاره‌ای از تلاش برای رهایی از ساختارهای محدود دانست.

در پایان فیلم، خروج از شهر مجازی به سوی دریا و نور، به گفته آقای نصیری «نمادی کلاسیک از آزادی» است الگویی که پیش‌تر نیز در آثار برجسته سینما دیده‌ایم.