سیستمهای هوشمند را میتوان از یک نقطهنظر به دو بخش تقسیم کرد: سیستمهای هوشمند خبره و سیستمهای هوشمند مبتنی بر یادگیری عمیق. ویژگی سیستمهای خبره این است که میتوان فرایند اینکه سیستم چگونه به نتیجه خاصی رسیده است را بازبینی نمود. یعنی، این فرایند پوشیده نبوده و تبیینپذیر است. اما در مقابل، در سیستم های مبتنی بر یادگیری عمیق، فرایند تصمیمسازی توسط سیستم هوشمند حتی برای طراحان نیز معلوم نبوده و به یک بیان، فرایند تصمیمسازی در این سیستمها مبهم است. این ابهام و تبیینناپذیری به مسئله جعبه سیاه موسوم است. «هوش مصنوعی تبیینپذیر» واکنشی است که به مسئله جعبه سیاه.
هدف از این گزارش، معرفی هوش مصنوعی تبیینپذیر است. در این راستا، در ابتدا سیستمهای خبره و سیستمهای مبتنی بر یادگیری عمیق را معرفی میکنیم. پس از آن به مسئله جعبه سیاه اشاره خواهیم نمود.
در بخش بعد، هوش مصنوعی تبیینپذیر را به عنوان واکنشی به مسئله جعبه سیاه بررسی خواهیم کرد. با تمایز میان این سؤال که «چگونه میتوان از نقطهنظر تکنولوژیکی، فنی و مهندسی به هوش مصنوعی تبیینپذیر دست یافت؟» و این سؤال که «چرا اساسا هوش مصنوعی تبیینپذیر امری ارزشمند است؟»، سؤال اول را فرو گذاشته و به بیان پاسخهای ارائه شده برای سؤال دوم میپردازیم. در ادبیات علمی پیرامون هوش مصنوعی تبیینپذیر چهار پاسخ به این سؤال وجود دارد که به آنها اشاره خواهیم نمود. پس از اشاره به این چهار پاسخ، ملاحظاتی را پیرامون این چهار دلیل به پیش میکشیم. در بخش بعد، پیشنهادهای راهبردی را برای استفاده مدیران و تصمیمسازان عرصه هوش مصنوعی جهموری اسلامی ایران ارائه کرده و در نهایت گزارش را با یک جمعبندی به پایان میبریم.
