پنج اصل پارادایم مدرن

برای توضیح جایگاه کنونی فناوری، می‌توان جهان‌بینی مدرن را با چند ویژگی اصلی توصیف کرد: نخست، ماتریالیسم؛ یعنی گرایش به توضیح جهان بر اساس واقعیت‌های مادی و قابل‌اندازه‌گیری. دوم، اسطوره پیشرفت؛ این باور که تاریخ حرکتی پیوسته به سوی وضعیتی بهتر است و پیشرفت علمی و فناورانه موتور اصلی این حرکت به شمار می‌رود. سوم، جهان‌بینی مکانیکی؛ نگاهی که جهان را همچون ماشینی قابل شناسایی، تجزیه و کنترل می‌بیند. چهارم، فردگرایی؛ تأکید بر فرد مستقل و جدا از دیگران، با منافع و انتخاب‌های شخصی. و پنجم، عقل‌گرایی و رفتار اقتصادی؛ یعنی این فرض که انسان موجودی عقلانی است که با سنجش گزینه‌ها و محاسبه منافع، تصمیم می‌گیرد.

فناوری به‌تدریج ویژگی‌هایی شبه‌دینی یافته است.

فناوری در جهان مدرن جایگاهی پیدا کرده که در برخی جنبه‌ها به جایگاه دین شباهت دارد. این شباهت را می‌توان در پنج نمود دید: نخست، رازآلودگی؛ فناوری‌های پیچیده، به‌ویژه هوش مصنوعی، برای بخش بزرگی از کاربران همچون جعبه‌ای سیاه عمل می‌کنند و سازوکار درونی آن‌ها به‌سادگی قابل‌فهم نیست. دوم، اعتماد و ایمان؛ کاربران و حتی نهادها به قابلیت فناوری و توانایی آن برای حل مسائل اعتماد می‌کنند، درحالی‌که لزوماً درکی متناسب با این اعتماد ندارند. سوم، وعده رستگاری؛ فناوری و نوآوری با وعده عبور از محدودیت‌های کنونی و ساختن آینده‌ای بهتر عرضه می‌شوند. چهارم، اقتدار و حقانیت فراتر از تخصص؛ فناوری و تصمیم‌های مبتنی بر آن گاه چنان معتبر تلقی می‌شوند که از محدوده ارزیابی فنی فراتر می‌روند و به حوزه تعیین ارزش‌ها و جهت‌گیری‌های اجتماعی وارد می‌شوند حتی افراد متخصص در حوزه‌های فنی یا مدیریت شرکت‌های بزرگ، مرجعی برای سبک زندگی یا پرسش‌های سیاسی، فلسفی و… می‌شوند. پنجم، نقش تمدن‌ساز و سازمان‌دهنده؛ فناوری دیگر فقط یک ابزار در کنار سایر ابزارها نیست، بلکه به نیرویی تبدیل شده که نهادها، روابط اجتماعی و تصور ما از زندگی مطلوب را سامان می‌دهد. از این منظر، مسئله صرفاً اعتماد بیش از اندازه به چند ابزار جدید نیست؛ مسئله شکل‌گیری نوعی اقتدار فراگیر فناورانه است.

فناوری از ابزار کمکی فراتر رفته است

در ابتدا انتظار می‌رفت فناوری ابزاری در خدمت اهداف و ارزش‌های انسانی باشد. یعنی انسان هدف را تعیین کند و فناوری وسیله یا بخشی از فرایند تحقق آن باشد. اما نویسندگان معتقدند این رابطه به‌تدریج معکوس شده است. فناوری‌های جدید فقط به نیازهای از پیش تعیین‌شده پاسخ نمی‌دهند، بلکه بر اینکه چه چیزی را نیاز بدانیم، چه چیزی را ارزشمند تلقی کنیم و چگونه تصمیم بگیریم نیز اثر می‌گذارند. سامانه‌های دیجیتال و الگوریتمی، با سازمان‌دهی محیط انتخاب و شکل‌دادن به عادت‌ها و توجه ما، در عمل بر رفتار و ترجیحات انسان تأثیر می‌گذارند. بنابراین، دیگر نمی‌توان فناوری را ابزاری خنثی دانست که صرفاً در اختیار انتخاب‌های مستقل افراد قرار دارد.

آسیب به پیش‌فرض تشخیص مصرف‌کننده

یکی از پایه‌های جهان مدرن این تصور است که افراد، به‌عنوان مصرف‌کنندگان عقلانی و صاحب تشخیص، گزینه‌های موجود را بررسی و بر اساس منافع خود انتخاب می‌کنند. اما در فرایند سرسام‌آور توسعه فناوری‌ها، این پیش‌فرض برای توضیح رفتار انسان در کافی نیست. تصمیم‌های مصرف‌کننده فقط حاصل محاسبه عقلانی او نیست؛ شرطی‌سازی، عاطفه، عادت، تکانه و محیطی که انتخاب‌ها در آن شکل می‌گیرند نیز نقش دارند. در محیط‌های دیجیتال، طراحی الگوریتمی می‌تواند بر آنچه می‌بینیم، به آن توجه می‌کنیم و در نهایت انتخاب می‌کنیم اثر بگذارد. افزون بر این، سرعت تحول فناوری گاه از ظرفیت ارزیابی و فهم متخصصان نیز فراتر می‌رود. در چنین وضعیتی، حتی فرض اینکه مصرف‌کننده با دسترسی به اطلاعات کافی می‌تواند انتخابی آگاهانه داشته باشد، با محدودیت مواجه می‌شود؛ زیرا مسئله فقط کمبود اطلاعات نیست، بلکه سرعت تغییر و پیچیدگی موضوع نیز هست.

ناترازی قدرت فناوری و سنجش و بینش انسانی

نویسندگان از نوعی «شکاف خرد» سخن می‌گویند. یعنی قدرت فناورانه بشر با سرعت زیادی افزایش یافته، اما ظرفیت فهم، قضاوت و کنترل خردمندانه این قدرت هم‌پای آن رشد نکرده است. این شکاف فقط به دشواری فهم سازوکار فناوری محدود نمی‌شود؛ فناوری بر شناخت، توجه و حتی تجربه جسمانی انسان نیز اثر می‌گذارد. به این ترتیب، انسان با ابزارهایی قدرتمندتر روبه‌روست، اما لزوماً توان بیشتری برای تشخیص پیامدهای بلندمدت استفاده از آن‌ها یا تعیین حدود مناسب کاربردشان ندارد. این وضعیت پرسشی اساسی ایجاد می‌کند: آیا افزایش توانایی فنی به‌خودی‌خود به معنای افزایش خرد و توانایی تصمیم‌گیری بهتر است؟ پاسخ نویسندگان منفی است.

هوش مصنوعی وضعیت را تشدید می‌کند

از نگاه نویسندگان، هوش مصنوعی نمونه برجسته و تشدیدکننده رابطه جدید انسان و فناوری است. این فناوری می‌تواند حوزه‌هایی مانند آموزش و صنایع خلاق را دگرگون کند و در عین حال، پیامدهایی فراتر از کاربردهای مستقیم خود داشته باشد. نویسندگان به مسائلی مانند عدم‌قطعیت درباره آینده هوش مصنوعی و احتمال دستیابی به هوش مصنوعی عمومی (AGI) توجه می‌کنند. نکته اصلی این است که فناوری‌ای با چنین ظرفیت تحول‌آفرینی، در شرایطی توسعه می‌یابد که شناخت ما از پیامدهای بلندمدت آن هنوز محدود است. بنابراین، مسئله فقط این نیست که هوش مصنوعی چه کارهایی می‌تواند انجام دهد بلکه باید پرسید توسعه آن در خدمت چه ارزش‌هایی است، چه هزینه‌هایی دارد و چه کسانی درباره مسیر آن تصمیم می‌گیرند.

مسابقه‌ای که هیچ‌کس ترمز نمی‌کند

یکی از مهم‌ترین بخش‌های مقاله، تشبیه رقابت فناورانه به مسائل بزرگ کنش جمعی است. در چنین مسائلی، همه بازیگران ممکن است بدانند که ادامه مسیر فعلی در نهایت زیان‌های همگانی دارد، اما هرکدام از ترس عقب‌ماندن از دیگران به رقابت ادامه می‌دهند. نویسندگان این وضعیت را با رقابت تسلیحاتی و بحران اقلیمی مقایسه می‌کنند. در رقابت تسلیحاتی (مانند رقابت اتمی)، بازیگران می‌دانند که افزایش مداوم توان نظامی می‌تواند امنیت جمعی را تضعیف کند، اما نگرانی از برتری رقیب مانع توقف یک‌جانبه می‌شود. در بحران اقلیمی نیز کشورها از ضرورت کاهش انتشار گازهای گلخانه‌ای آگاه‌اند، اما منافع کوتاه‌مدت، نگرانی از هزینه‌های اقتصادی و دشواری هماهنگی، اقدام جمعی را محدود می‌کند. در رقابت فناورانه نیز وضعیتی مشابه شکل گرفته است: بازیگران می‌دانند که سرعت توسعه ممکن است از ظرفیت ارزیابی و کنترل پیامدها فراتر برود، اما هیچ‌کدام نمی‌خواهند نخستین بازیگری باشند که سرعت خود را کاهش می‌دهد و از رقبا عقب می‌ماند. در نتیجه، حتی وقتی نشانه‌های خطر آشکار می‌شوند، منطق رقابت همچنان به ادامه شتاب دامن می‌زند.

راه‌حل خدمت ارزش‌های انسانی و تقویت خرد جمعی است.

نویسندگان در پایان بر ضرورت اصلاح نسبت ما با فناوری تأکید می‌کنند. از نظر آنان، آزادی واقعی مستلزم خردمندی و توانایی مکث‌کردن، شناخت نیازها و ارزش‌ها و سنجیدن پیامدهای بلندمدت تصمیم‌هاست. پیام اصلی مقاله این است که مسئله جهان امروز صرفاً سرعت پیشرفت فناوری یا قدرت ابزارهای جدید نیست؛ مسئله، نوع رابطه‌ای است که انسان با این قدرت برقرار کرده است. فناوری در شرایطی به اقتداری شبه‌دینی و نیرویی سازمان‌دهنده تبدیل شده که ظرفیت خرد و کنترل جمعی ما لزوماً با سرعت تحول آن رشد نکرده است. از سوی دیگر، منطق رقابت باعث می‌شود حتی بازیگرانی که از خطرهای مسیر آگاه‌اند، برای عقب‌نماندن از دیگران به شتاب خود ادامه دهند. نویسندگان راه خروج را نه در نفی فناوری، بلکه در تغییر جهان‌بینی مسلط، تقویت همکاری و بازگرداندن ارزش‌های انسانی به مرکز تصمیم‌گیری فناورانه می‌دانند. این تغییر مستلزم گذار از رقابت مخرب به هم‌افزایی و انتخاب‌های خردمندانه است.