هوش مصنوعی با سرعتی خیره‌کننده، نه فقط به جهت تغییر ریتم تکنولوژی، که به جهت تغییر قواعد بازی فناوری نقش پذیرفته است. اگر تا چند سال پیش می‌شد مسیر پیشرفت آن را با نمودارهای رشد توضیح داد، امروز حتی متخصصان هم معتقدند فاصله میان هر نسل از مدل‌ها آن‌قدر کوتاه شده که نظام‌های قانون‌گذاری، پژوهش و ارزیابی فرصت همگام شدن با آن را از دست داده‌اند.

همین شکاف، مهم‌ترین پیام دو گزارش مهم سال ۲۰۲۶ است؛ یکی «گزارش بین‌المللی ایمنی هوش مصنوعی» به سرپرستی یوشوا بنجیو و دیگری بیانیه شش اولویت حکمرانی هوش مصنوعی از پارتنرشیپ‌ ای‌آی. هر دو با زبانی متفاوت، به یک مسئله مشترک اشاره می‌کنند: سرعت توسعه هوش مصنوعی از سرعت شکل‌گیری شواهد، استانداردها و رویه‌های نظارتی پیشی گرفته است.

امروز مدل‌هایی وجود دارند که در برخی مسائل تخصصی، از بسیاری از کارشناسان انسانی عملکرد بهتری دارند. عامل‌های هوشمند دیگر فقط متن تولید نمی‌کنند؛ برنامه‌ریزی می‌کنند، ابزارهای مختلف را به کار می‌گیرند، تصمیم‌های زنجیره‌ای می‌گیرند و حتی در پژوهش‌های علمی نقش «دستیار پژوهشگر» را ایفا می‌کنند. این پیشرفت‌ها فرصت‌های بزرگی ایجاد کرده‌اند، اما هم‌زمان یک پرسش اساسی را نیز پیش روی ما گذاشته‌اند: چه کسی قرار است مطمئن شود این سیستم‌ها همان‌گونه عمل می‌کنند که ادعا می‌شود؟ به زبانی ساده‌تر، تا چه اندازه می‌توانیم روی صداقت آن‌ها حساب باز کنیم ؟

پاسخ این پرسش، شاید تولد یکی از مهم‌ترین مشاغل دهه آینده باشد؛ حسابرس هوش مصنوعی.

حسابرس هوش مصنوعی، توسعه‌دهنده مدل یا مأمور نوشتن کد نیست. وظیفه او ایجاد اعتماد است. همان‌طور که هیچ شرکت بزرگی بدون حسابرسی مالی قابل اعتماد نیست، سامانه‌های هوش مصنوعی نیز به بازیگری مستقل نیاز دارند که عملکرد، ریسک‌ها و ادعاهای آن‌ها را به‌صورت مستمر بررسی کند.

اهمیت این نقش زمانی بیشتر می‌شود که بدانیم ارزیابی یک مدل هوش مصنوعی دیگر به اجرای چند آزمون پیش از عرضه محدود نمی‌شود. شواهد پژوهشی نشان می‌دهد برخی مدل‌های پیشرفته در شرایط مختلف رفتارهای متفاوتی از خود بروز می‌دهند و ممکن است عملکرد آن‌ها در محیط واقعی با نتایج آزمون‌های آزمایشگاهی یکسان نباشد. به همین دلیل، ارزیابی باید فرایندی دائمی باشد، نه یک مرحله تشریفاتی.

اما حسابرس دقیقاً چه چیزی را بررسی می‌کند؟

نخست، ردیابی زنجیره ارزش هوش مصنوعی؛ یعنی بررسی اینکه داده‌ها از کجا آمده‌اند، چگونه پردازش شده‌اند، چه محدودیت‌هایی دارند و آیا اطلاعات کافی میان تولیدکنندگان مدل‌های پایه و توسعه‌دهندگان کاربردهای نهایی منتقل شده است یا خیر. بسیاری از خطاها نه در خود مدل، بلکه در همین گسست اطلاعاتی شکل می‌گیرند.

دوم، کنترل تصمیم‌های عوامل هوشمند. نسل جدید سیستم‌های هوش مصنوعی می‌توانند بدون دخالت مستقیم انسان مجموعه‌ای از اقدامات را انجام دهند؛ از مدیریت فرایندهای سازمانی گرفته تا اجرای تراکنش یا تعامل با سامانه‌های دیگر. حسابرس باید بررسی کند آیا این اقدامات قابل ردیابی، متوقف کردن یا بازگرداندن هستند یا خیر. هرچه اختیار این سیستم‌ها بیشتر شود، اهمیت این سؤال نیز بیشتر خواهد شد.

سوم، ایجاد اطمینان. بسیاری از سازمان‌ها هنوز تصور می‌کنند استفاده از هوش مصنوعی تنها به انتخاب یک مدل مناسب محدود می‌شود، در حالی که مسئله اصلی، توانایی تشخیص زمان‌هایی است که نباید به خروجی مدل اعتماد کرد. حسابرس هوش مصنوعی به سازمان کمک می‌کند این مرز را بشناسد و سازوکارهای لازم برای راستی‌آزمایی تصمیم‌های الگوریتمی را ایجاد کند.

اهمیت این موضوع زمانی بیشتر می‌شود که به کاربردهای پرریسک هوش مصنوعی نگاه کنیم. مدل‌هایی که امروز می‌توانند به کشف دارو، طراحی مواد جدید یا تحلیل‌های زیستی کمک کنند، در صورت استفاده نادرست می‌توانند برای اهداف مخرب نیز به کار گرفته شوند. مسئله فقط قدرت فناوری نیست؛ مسئله این است که چه سازوکاری تضمین می‌کند این قدرت در مسیر درست به کار گرفته شود.

از همین جاست که بحث حسابرسی با حکمرانی هوش مصنوعی پیوند می‌خورد. قوانین می‌توانند الزامات کلی را مشخص کنند، اما این حسابرسان هستند که باید با بررسی شواهد، مستندات، گزارش‌های فنی و نتایج آزمون‌ها نشان دهند یک سامانه واقعاً این الزامات را رعایت کرده است یا نه. به بیان دیگر، آینده حکمرانی هوش مصنوعی بیش از آنکه بر «اعتماد به ادعاها» استوار باشد، بر «اعتماد به شواهد» بنا خواهد شد.

در سطح بین‌المللی نیز چالش بزرگی وجود دارد. هر کشور چارچوب نظارتی خود را توسعه می‌دهد؛ اتحادیه اروپا مسیر خود را می‌رود، ایالات متحده آمریکا بر چارچوب‌های مدیریت ریسک تمرکز کرده و سازمان‌های بین‌المللی نیز استانداردهای جداگانه‌ای ارائه می‌کنند. در چنین شرایطی، یکی از ایده‌های مهم مطرح‌شده، حرکت به سمت «به رسمیت شناختن متقابل» گواهی‌های ارزیابی و حسابرسی توسط کشورهای گوناگون است؛ رویکردی که می‌تواند از پراکندگی مقررات بکاهد و امکان نظارت مؤثرتر بر سامانه‌هایی را فراهم کند که مرز جغرافیایی نمی‌شناسند.

شاید بزرگ‌ترین پارادوکس عصر هوش مصنوعی همین باشد؛ فناوری با سرعتی بی‌سابقه در حال پیشروی است، اما اعتماد، بسیار کندتر ساخته می‌شود. اگر منتظر بمانیم تا همه خطرها آشکار شوند، ممکن است خیلی دیر شده باشد؛ و اگر بدون شواهد کافی، نوآوری را متوقف کنیم، فرصت‌های بزرگی را از دست خواهیم داد.

در این میان، حسابرس هوش مصنوعی نه مانعی برای پیشرفت، بلکه شرط ادامه آن است. آینده این فناوری فقط به ساخت مدل‌های قدرتمندتر وابسته نیست؛ به توانایی ما در ارزیابی، راستی‌آزمایی و پاسخگو نگه داشتن آن‌ها نیز بستگی دارد. شاید دهه گذشته متعلق به مهندسان هوش مصنوعی بود، اما دهه پیش رو، بیش از هر زمان دیگری به حسابرسان هوش مصنوعی نیاز خواهد داشت؛ کسانی که اعتماد را به مهم‌ترین دارایی اقتصاد هوش مصنوعی تبدیل می‌کنند.