اگر این گزاره افراطی به نظر می‌رسد، کافی است کمال‌خواهی ضدانسانی‌ای را که در بازار کار رخ داد، در نظر بگیرید. در بازار کار، فناوری هوش مصنوعی، در راستای نظریه بهره‌وری حداکثری، خط تولید کارخانه را جایگزین مهارت‌های فردی می‌کند. این تغییرات گسترده در بهره‌وری و نحوه کار، فرصت‌ها و تهدیدهایی ایجاد کرد که حالا قرار است با «انقلاب صنعتی چهارم»، هوش مصنوعی بیشتر از قبل، جایگزین کارگران انسانی شود.
چندین مقاله تحقیقی اخیر، پیش‌بینی کرده‌اند که طی یک دهه، خودکارسازی[۱] جای نیمی از مشاغل فعلی را خواهد گرفت. بنابراین حداقل در این انتقال به یک اقتصاد دیجیتالی جدید، بسیاری از مردم امرارمعاش خود را از دست می‌دهند. حتی اگر تصور کنیم که این انقلاب صنعتی جدید، نیروی کار جدیدی را به وجود خواهد آورد که قادر به پیمایش و فرماندهی دنیای حاکم بر داده است، باز هم مجبور خواهیم بود با مشکلات عمده اقتصادی-اجتماعی روبه‌رو شویم. این معضلات بسیار زیاد خواهد بود و باید موردبررسی دقیق قرار گیرد.
هدف نهایی هوش مصنوعی، حتی هوش مصنوعی محدود[۲] که وظایف بسیار خاصی دارد، بهبود و تکمیل عملکرد شناختی انسان است. سرانجام سامانه‌های یادگیری ماشین باید به‌گونه‌ای برنامه‌ریزی شوند که در همه‌چیز بهتر از انسان باشند.
آنچه ممکن است هرگز در ماشین‌ها ایجاد نشود، احساسات انسانی همچون همدلی، عشق، نفرت یا ادراکات دیگر خودآگاهانه است که ما را انسان می‌کند. این موارد در تمایز با این احساساتی است که برخی از ما قبلاً به «الکسا[۳]» و «سیری[۴]» نسبت داده‌ایم.
بهره‌وری در مقابل احساسات انسانی
افراط در کمال‌خواهی و «بهره‌وری فوق‌العاده»، تأثیر عمیقی بر روابط انسانی؛ حتی تولید مثل گذاشته است. مردم زندگی خود را در لایه‌های پنهان و خودساخته می‌گذرانند. به‌عنوان‌مثال چندین شرکت مستقر در ایالات‌متحده و چین عروسک‌های رباتیک تولید کرده‌اند که به‌سرعت به‌عنوان شرکای جنسی جایگزین، فروخته می‌شوند.
یک مرد در چین حتی با عروسک سایبری خود ازدواج کرد، همچنین یک زن در فرانسه با «ربات مرد[۵]» ازدواج و داستان عشق خود را به‌عنوان نوعی «جنسیت رباتیک[۶]» تبلیغ و برای قانونی کردن ازدواج خود تلاش کرد. وی گفت: «من واقعاً و کاملاً خوشحالم.» «روابط ما با پیشرفت فناوری بهتر و بهتر می‌شود.» به نظر می‌رسد تقاضای زیادی برای شوهران و زنان ربات در سراسر جهان وجود دارد.
در دنیایی که بهره‌وری همه‌چیز است، و انسانیت کم‌رنگ است، انسان چیزی بی‌ارزش محسوب می‌شود. تا زمانی که از شر این نگرش کمال‌خواهانه نسبت به زندگی خلاص نشویم، -نگرشی که بهره‌وری و «رشد مادی» را بالاتر از پایداری و خوشبختی فردی قرار می‌دهد- تحقیق در مورد هوش مصنوعی، می‌تواند زنجیره دیگری در تاریخ اختراعات خودکشی انسان باشد.
در همین حال، سلاح‌های خودکار برای کشتن برنامه‌ریزی‌شده‌اند تا «بهره‌وری» و «کارآیی» را در جنگ هم حداکثر کنند. درنتیجه جنگ ماندگارتر شده است. گسترش جنگ‌های بدون سرنشین نمونه‌ای بارز از این اشکال جدید درگیری است. آن‌ها یک واقعیت مجازی را ایجاد می‌کنند که تقریباً از نظر ما غایب است.
اما تصور اینکه هوش مصنوعی مانند یک کابوس اورولی[۷]، ارتش هوشمندی از «نابودگران» با مأموریت از بین بردن نژاد بشر است، خنده‌دار است. چنین پیش‌بینی‌های کابوس‌گونه، خیلی خام هستند و نمی‌توانند حرکت خزنده هوش مصنوعی و تأثیر آن بر زندگی روزمره را نشان دهند.
جوامع می‌توانند از هوش مصنوعی منتفع شوند تنها اگر در فرآیند توسعه آن، پیشرفت اقتصادی پایدار و امنیت انسانی در نظر گرفته شود. تلاقی قدرت و هوش مصنوعی، در چیزی مثل سامانه‌های کنترل و نظارت، نباید جایگزین وعده هوش مصنوعی انسانی شود که فناوری یادگیری ماشین را در خدمت انسان قرار می‌دهد؛ نه برعکس.
به‌عنوان‌مثال برای تحقق این هدف، باید واسطه‌های هوش مصنوعی و انسان که به‌سرعت در زندان‌ها، مراکز بهداشتی، دولت، کاربردهای امنیت اجتماعی و کنترل مرزها به کارگرفته می‌شوند، طوری تنظیم شوند تا اخلاق و امنیت انسانی را بر کارآیی نهادی ترجیح دهند. علوم اجتماعی و انسانی در مورد چنین موضوعاتی حرف‌های زیادی برای گفتن دارند.
نکته‌ای که باعث خوش‌حالی است، این احتمال است که هوش مصنوعی هرگز جایگزین فلسفه و خردورزی انسان نخواهد شد. به‌هرحال فیلسوف بودن به همدلی، درک انسانیت و احساسات و انگیزه‌های ذاتی ما نیاز دارد. اگر بتوانیم ماشین‌های خود را برای درک چنین استانداردهای اخلاقی برنامه‌ریزی کنیم؛ پس تحقیقات هوش مصنوعی توانایی بهبود زندگی ما را دارد که باید هدف نهایی هر پیشرفت فناورانه‌ای باشد.
اما اگر تحقیقات هوش مصنوعی، ایدئولوژی جدیدی را متمرکز بر مفهوم کمال‌خواهی و بهره‌وری حداکثری، ایجاد کند، آنگاه نیرویی مخرب خواهد بود که منجر به جنگ‌های بیشتر، قحطی بیشتر و معضلات اجتماعی و اقتصادی بیشتر به‌ویژه برای فقرا خواهد شد. در این مقطع از تاریخ جهانی، هنوز می‌توانیم انتخاب کنیم.
