دربارۀ نویسندگان و ناشر
این کتاب توسط متخصصین عضو اقدام جهانی IEEE دربارۀ اخلاقیات سیستم‌های خودکار و هوشمند تهیه شده است. مؤسسۀ مهندسان برق و الکترونیک (IEEE)[۱] بزرگترین سازمان فنی و حرفه‌ای در حوزۀ فناوری در حال پیشرفت به نفع بشریت است و در بیش از ۱۶۰ کشور، بیش از ۴۲۰ هزار عضو دارد. این مؤسسه از طریق آثاری که به چاپ رسانده، کنفرانس‌هایی که برگزار کرده و استانداردهایی که برای فناوری تدوین کرده است، اعتبار وسیعی در طیف گسترده‌ای از حیطه‌ها از سیستم‌های هوا و فضا و کامپیوتر و از راه دور گرفته تا مهندسی زیست‌پزشکی، نیروی الکتریکی و لوازم الکترونیکی مصرفی کسب کرده است.
اطلاعات بیشتر در:
انجمن استانداردهای [۲]IEEE (IEEE-SA)، یک سازمان شناخته‌شده در سطح جهانی برای تدوین استاندارد در IEEE از طریق فرآیندهای باز است. این انجمن تاکنون بیش از 1900 استاندارد ارائه کرده است.
اطلاعات بیشتر در:
اقدام جهانی IEEE دربارۀ اخلاقیات سیستم‌های خودکار و هوشمند یکی از برنامه‌های انجمن استانداردهای IEEE است که نظرات مختلف در جوامع فنی- مهندسی و علمی- دانشگاهی را گرد هم می‌آورد تا بر روی مسائل روز توافق ایجاد کند.
اطلاعات بیشتر در:
www.standards.ieee.org/industry-connections/ec/autonomous-systems.html
اخلاق سامانه‌های خودکار و هوشمند
سامانه‌های خودکار و هوشمند برای کاهش ضرورت دخالت انسان در زندگی روزمره طراحی شده‌اند؛ اما تنها زمانی می‌توان از حداکثر توانمندی‌های آن‌ها استفاده کرد که با ارزش‌های تعریف‌شده جامعه و اصول اخلاقی همسو باشند. با فراگیر شدن استفاده از این سامانه‌ها و توسعۀ آن‌ها در جهت فراتر رفتن از صرفِ برآوردن نیازهای عملکردی ساده، نیاز است راهبردهایی اخلاقی و اجتماعی وضع شود تا این سامانه‌ها در چارچوب اصول انسانی و اخلاقی رفتار کنند و انسان‌محور باشند. این رویکرد موجب می‌شود کاربران به فناوری اعتماد کنند و این اعتماد برای استفادۀ مؤثر از فناوری در زندگی روزمره لازم است. لذا نیاز است پیشنهادهایی عمل‌گرایانه ارائه شود تا مرجع اصلی کار طراحان، مهندسان و سیاست‌گذاران باشد.
محتوای کتاب
این مستند شامل دو بخش با عنوان «طراحی اخلاق‌مدار» و «دربارۀ طراحی اخلاق‌مدار» است که بخش دوم حاوی اطلاعاتی در مورد بخش اصلی مستند (بخش اول)، تیم تدوین آن و فرایند تدوین است. همچنین اشاره‌هایی به اهداف و ماموریت‌های مؤسسه IEEE دارد.
محتوای بخش اول موضوعات نظری بعضا عمیق در باب اخلاق است و سعی می‌کند نگرش جامعی به مکاتب اخلاقی مشهور در دنیا و به تعبیر خود، غربی (مانند ارسطویی و کانتی)، شرقی (مانند شینتویی و کنفسیوسی)، آفریقایی (مانند اوبونتویی) و … در باب تعریف خیر[۳] و سعادت[۴] داشته باشد. سپس نحوۀ پیاده‌سازی اصول اخلاقی نظری را در طراحی سامانه بیان می‌کند. کتاب همچنین حاوی سیاست‌های پیشنهادی در عرصۀ قانون‌گذاری هوش مصنوعی است. مخاطب کتاب کاربران، مهندسین و سیاست‌گذاران سامانه‌های هوشمند است.
نقل قولی از کتاب:
سیستم‌های هوش مصنوعی باید همیشه تحت فرمان و کنترل انسان بوده و در آینده نیز نباید به آن‌ها حقوق و مزایایی داد که معادل حقوق انسان باشد.
فصول بخش اول که محتوای اصلی و فنی کتاب را در بردارد، عبارت است از:
فصل اول: از اصول تا عمل
این بخش درصدد ترسیم چارچوب مفهومی طراحی اخلاق‌مدار است و سه رکنی که پایۀ این طراحی را می‌سازد، توضیح می‌دهد. این سه رکن عبارتند از:
- ارزش‌های انسانی جهانی
- خودمختاری سیاسی و میانجی‌گری داده‌ها
- قابلیت اعتماد از نگاه فنی
این فصل همچنین ارتباط این سه رکن را با اصول کلی سطح بالاتر که تمامی مباحث طراحی سامانه‌های خودکار/ هوشمند را تشکیل می‌دهند، مشخص می‌کند.
فصل دوم: اصول کلی
این فصل اصول اخلاقی بالادستی ارائه می‌دهد که درباره همۀ سیستم‌های خودکار و هوشمند، از ربات‌های فیزیکی گرفته تا سیستم‌های نرم‌افزاری، صدق می‌کند. این اصول کلی دستوراتی برای طراحی، توسعه، پخش، به کارگیری و از رده خارج‌کردن سیستم‌های خودکار و هوشمند ارائه می‌دهد و همه ذی‌نفعان را در نظر می‌گیرد.
فصل سوم: اخلاقیات کلاسیک در سامانه‌های خودکار/ هوشمند
در این فصل متدلوژی‌های اخلاقیات کلاسیک جهت طراحی مبتنی بر الگوریتم در سامانه‌های خودکار و هوشمند ارائه می‌شود. نویسندگان برای رسیدن به این هدف، نظریات اخلاقی کلاسیک، اصول اخلاقی ماشین‌ها، اخلاقیات در اطلاعات و اخلاقیات در فناوری را گرد هم آورده‌اند.
فصل چهارم: رفاه[۵]
این فصل پرسشی اساسی را که تولیدکنندگان و قانون‌گذاران فناوری با آن روبرو هستند، بیان می‌کند که عبارت است از این که چگونه می‌توان اثرات رفاهی سامانه‌های خودکار/ هوشمند بر انسان‌ها را تخمین زد، محافظت کرد و ارتقا داد؟ سپس به پاسخ این پرسش می‌پردازد.
نقل قولی از کتاب:
خودمختاری کاربر یک ملاحظه کلیدی و اساسی است که باید هنگام بررسی این‌که آیا سیستم‌های مؤثر اجازه ایجاد تلنگر در انسان دارند یا نه، در نظر گرفته شود.
فصل پنجم: رایانش تأثری[۶]
این فصل به مسائل مربوط به احساسات و کنترل آن در تعاملات بین انسان و سامانه‌ها می‌پردازد و در این میان به موضوع اثر[۷] و این که در فرهنگ‌های مختلف متفاوت است، اشاره می‌کند.
فصل ششم: داده‌های شخصی و عاملیت[۸] فردی
این فصل به چالش‌های اصلی حاصل برای اختیار انسان که توسط ردیابی رفتارهای الگوریتمی ایجاد می‌شود، و راه‌حل آن می‌پردازد.
فصل هفتم: روش‌هایی برای هدایت تحقیقات و طراحی اخلاقی
در این فصل به روش‌های تحقیق و طراحی ارزش‌محور اشاره و تأکید می‌کند تحقیقات و طراحی سیستم‌های خودکار و هوشمند باید در پرتو این آگاهی انجام پذیرد که فناوری، خنثی نیست و ارزش‌ها و سوگیری‌هایی را تعبیه می‌کند که می‌توانند روی فرآیندهای مهم اجتماعی انسان تأثیر بگذارند.
فصل هشتم: سامانه‌های خودکار/ هوشمند برای توسعۀ پایدار
در این بخش پیرامون این دستور اخلاقی بحث می‌کند که سامانه‌های خودکار/ هوشمند باید طوری به کار گرفته شوند که به نفع بشر باشند، عدالت را ارتقا بخشند و منجر به تحقق هدف آینده پایدار که یکی از از اهداف توسعه پایدار است، شوند.
فصل نهم: تعبیۀ ارزش در سامانه‌های خودکار و هوشمند
این فصل به بررسی سه هدف عینی دیگر می‌پردازد:
- شناسایی هنجارهای مشخص جامعه‌ای که سامانه‌های خودکار/ هوشمند در آن فعالیت می‌کنند
- اجرای رایانه‌ای این هنجارها
- ارزیابی این‌که آیا اجرای رایانه‌ای با هنجارهایی که در آن جامعه هستند تطابق دارد یا خیر
فصل دهم: خط‌مشی
در این فصل خط‌‌مشی‌های مؤثر سامانه‌های خودکار/ هوشمند از جهات مختلف با این هدف که در خدمت منافع عموم مردم باشند، معرفی می‌شوند.
فصل یازدهم: قانون
این فصل علاوه بر پرداختن به این‌که چطور قانون به نوآوری فناورانه سامانه‌های خودکار/ هوشمند پاسخ می‌دهد، بر این موضوع تمرکز می‌کند که قانون چگونه شرایط این نوآوری را رهبری و تنظیم می‌کند.
اطلاعات شناسنامه‌ای کتاب
- عنوان کتاب: ETHICALLY ALIGNED DESIGN: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems
- تهیه شده در: The IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems
- نشر: IEEE
- تاریخ نشر: 2019
- زبان: انگلیسی
- تعداد صفحات: 294
- لینک تهیه کتاب: https://standards.ieee.org/content/ieee-standards/en/industry-connections/ec/autonomous-systems.html
منابع برای مطالعه بیشتر
- Gerardus Blokdyk, Ethically Aligned Design A Complete Guide, 5STARCooks, 2020.
- Michael Kearns, The Ethical Algorithm: The Science of Socially Aware Algorithm Design, Oxford University Press, 2019.
- Van den Hoven, et. al., Handbook of Ethics, Values, and Technological Design: Sources, Theory, Values and Application Domains, 2015.
- High-Level Expert Group On Artificial Intelligence, Ethics Guidelines for Trustworthy AI, 2019.
- IBM Design Program Office, Everyday Ethics for Artifici
- al Intelligence, 2019.
