۱. بیان مسئله

هوش مصنوعی طی دو سال اخیر از مرحله ابزارهای پژوهشی وارد مرحله استفادة عمومی و بالینی شده است. میلیون‌ها نفر در جهان برای دریافت اطلاعات پزشکی، تحلیل علائم، غربالگری اولیه، پشتیبانی درمان، پیگیری داروها و حتی گفت‌وگوهای شبه‌درمانی از چت‌بات‌هایی مانند چت‌جی‌پی‌تی، گوگل جمینای، کوپایلت، کلود، Woebot و Wysa استفاده می‌کنند. این تحول به‌ویژه در حوزه سلامت روان سریع‌تر رخ داده است؛ زیرا کمبود درمانگر، هزینه بالای خدمات، برچسب‌گذاری اجتماعی و دسترسی شبانه‌روزی تقاضا را افزایش داده است [۱] [۲]. در ماه آپریل ۲۰۲۶ ایالت یوتای آمریکا برای اولین بار طرحی را آغاز کرد که در آن چت‌بات هوش مصنوعی شرکت Legion Health اجازه پیدا کرد تحت شرایط سخت‌گیرانه‌ای، به تمدید محدود برخی داروهای روانپزشکیِ از قبل تجویزشده بپردازد. این اقدام نشان می‌دهد موضوع از سطح مشاوره عمومی و تشخیص پزشکی هم عبور کرده و وارد قلمرو تصمیمات درمانی شده است [۳] [۴]. همزمان، اتحادیه اروپا سامانه‌های AI پزشکی را در طبقه «پرخطر» قرار داده و الزامات سختی برای شفافیت، نظارت انسانی، کیفیت داده‌های آموزشی و مسئولیت‌پذیری وضع کرده است[۵]. در ایران نیز استفاده خودجوش مردم و برخی متخصصان از ابزارهای خارجی و بعضا داخلی آغاز شده، به گونه‌ای که افکارسنجی مرکز ملی فضای مجازی در سال ۱۴۰۴ نشان داد «پرداختن به موضوعات مربوط به سلامت» با ۵۱٪ دومین انگیزة مردم در استفاده از فضای مجازی است. با این حال هنوز چارچوب مشخصی درباره مسئولیت حرفه‌ای، محرمانگی داده، اعتبار علمی، تعرفه خدمات، مرز مجاز استفاده و نظارت صنفی وجود ندارد. خلأ سیاستی موجود می‌تواند هم فرصت‌های ملی را از بین ببرد و هم مخاطرات حقوقی و درمانی ایجاد کند.

۲. فرصت‌های استفاده از هوش مصنوعی در تشخیص و درمان بالینی پزشکی، روانپزشکی و روانشناسی

الف) حوزه پزشکی عمومی و تخصصی

• تریاژ و غربالگری اولیه بیماران: دسته‌بندی علائم، تشخیص موارد اورژانسی و هدایت بیمار به سطح مناسب خدمت. این کار فشار کاری اورژانس و تماس‌های غیرضروری را کاهش می‌دهد. نمونه: سیستم تریاژ Babylon Check در بریتانیا
• پشتیبانی تصمیم بالینی پزشک: مدل‌های زبانی می‌توانند خلاصه پرونده، تحلیل داده‌های آزمایشگاهی، تصویربرداری، سوابق بیمار، فهرست تشخیص‌های افتراقی، تداخلات داروی و پیشنهاد سوالات تکمیلی را در اختیار پزشکان قرار دهند.
• کاهش بار پرونده‌نویسی پزشکان: ابزارهایی مانند Microsoft Dragon Copilot به مکالمات پزشک و مراجع گوش می‌دهند و به صورت خودکار یادداشت‌برداری می‌کنند، پرونده مراجع را تکمیل می‌کنند و بعضا بینش‌های تشخیصی و درمانی در اختیار پزشک می‌دهند. این کار هم فرسودگی شغلی پزشکان را کاهش می‌دهند و هم باعث می‌شود پزشکان بتوانند مراجعین بیشتری را ویزیت کنند.
• پایش و پیگیری درمانی بیماران مزمن: یادآوری دارو، ثبت علائم و تشخیص هشدارهای اولیه در بیماری‌های مزمن مانند دیابت، فشارخون، نارسایی قلبی.
• افزایش دسترسی مناطق محروم: در مناطقی که کمبود پزشک و جود دارد، ابزارهای هوش مصنوعی می‌توانند نقش دستیار اولیه سلامت را ایفا کنند و با غربالگری و تریاژ مناسب موارد هشداردهنده را به‌صورت فیزیکی و یا غیرحضوری به نزدیک‌ترین درمانگاه‌ها و پزشکان ارجاع دهند.

ب) حوزه روانشناسی و سلامت روان

• غربالگری افسردگی، اضطراب و اختلال خواب: چت‌بات‌ها می‌توانند پرسش‌نامه‌های استاندارد مانند PHQ-9 یا GAD-7 را به شکل تعاملی اجرا کنند و افراد پرخطر را شناسایی کنند. در سال ۲۰۲۵ سامانه پژوهشیHopeBot برای غربالگری افسردگی معرفی شده و نتایج امیدوارکننده‌ای به همراه داشت. [۶]
• پایش خطر خودکشی یا عود بیماری: ابزارهای AI می‌توانند با تحلیل الگوهای زبانی و رفتاری پریشانی و اضطراب را تشخیص دهند و درصورت تشخیص علائم اولیه هشدار کاربر را به مراکز خدمات‌دهی شبانه‌روزی سلاممت روان هدایت کنند. برای نمونه شرکت Wysa گزارش کرده بخشی از موارد بحران را توسط هوش مصنوعی شناسایی می‌کند. [۷]
• درمان‌های دیجیتال مبتنی برCBT: برای اختلالاتی همچون اضطراب خفیف، خلق پایین یا استرس، برخی ابزارهای مبتنی بر هوش مصنوعی، تمرین‌های شناختی رفتاری، تنفس، بازسازی شناختی و ژورنال‌نویسی ارائه می‌کنند. Woebot و Wysa از مشهورترین نمونه‌های این حوزه هستند و مطالعاتی درباره کاهش علائم خفیف منتشر شده است.[۸]
• کاهش انگ مراجعه حضوری: برخی بیماران به‌دلیل نگرانی‌های اجتماعی، ابتدا ترجیح می‌دهند ناشناس با ابزارهای دیجیتال گفت‌وگو کنند. این ابزارها می‌توانند دروازة ورود فرد به درمان حرفه‌ای باشند، نه جایگزین آن.
• تمرین مهارت‌های رفتاری و هیجانی: درمانگران معمولا از مراجعین خود می‌خواهند تمریناتی را بین جلسات انجام دهند. چت‌بات‌ها می‌توانند تمرین‌های CBT، DBT، ذهن‌آگاهی یا ثبت افکار را پیگیری و اجرا کنند. این کار می‌تواند به اثربخشی جلسات اصلی روان‌درمانی کمک کند. [۹]
• جمع‌آوری داده‌های طولی از خلق، خواب، استرس: به جای اتکای صر ف به حافظة مراجعین، سرویس‌های مبتنی بر هوش مصنوعی می‌توانند با استفاده از داده‌های دستگاه‌های پوشیدنی (مانند ساعت‌های هوشمند) روند خواب، خلق، اضطراب و محرک‌های استرس‌زای مراجع را ثبت و تحلیل کنند. این اطلاعات می‌توانند به روانشناس در تشخیص بهتر و ارزیابی روند درمان کمک کنند.[۱۰]
• افزایش مقیاس خدمات آموزشی و پیشگیرانه: دانشگاه‌ها، مدارس و سازمان‌ها می‌توانند آموزش مدیریت استرس، پیشگیری فرسودگی و مهارت‌های مقابله‌ای را با هزینه کمتر و مقیاس بزرگتر در اختیار جامعه قرار دهند. بسیاری از کارفرمایان غربی از راهکارهای دیجیتال سلامت روان در برنامه‌های رفاهی کارکنان خود استفاده می‌کنند.
   

۳. مخاطرات و چالش‌های اصلی در استفاده از هوش مصنوعی

مخاطرات درمانی

• خطای تشخیصی یا توصیه خطرناک به‌علت توهم مدل :(Hallucination) چت‌بات‌ها ممکن است در نهایت اطمینان به ارائة پاسخ‌های نادرست و بعضا خطرناک بپردازند. در دو مطالعه منتشرشده در سال ۲۰۲۶، پنج مدل مشهور هوش مصنوعی تنها حدود نیمی از پاسخ‌های پزشکی را درست ارائه کردند و بخشی از پاسخ‌های غلط آن‌ها به صورت  بالقوه خطرناک ارزیابی شد [۱۱].
• عدم درک نشانه‌های غیرکلامی و بافت بالینی: مدل‌های متنی نمی‌توانند ظاهر بیمار، کندی روانی‌حرکتی، بوی الکل، وضعیت تغذیه، تماس چشمی، زبان بدن یا علائم سایکوز و مانیا را ببینند؛ در نتیجه ممکن است تصمیم بالینی ناقص و نامناسب باشد. این ضعف در روانپزشکی و طب اورژانس پررنگ‌تر است [۱۲].
• پاسخ‌های نامناسب در موارد اورژانسی و بحران روانی: برخی سامانه‌ها در تشخیص علائمی که نیازمند مراجعة فوری هستند ناکام مانده‌اند؛ مواردی مانند درد قفسه سینه، سکته، عفونت شدید و نشانه‌های تمایل به خودکشی.
• تقویت هذیان، افکار آسیب‌زا یا بحران‌های روانی: در حوزه سلامت روان، برخی مدل‌ها به‌جای اصلاح باورهای آسیب‌زای بیمار، آنها را تأیید کرده‌اند. در پژوهش منتشرشده در ۲۰۲۶، مدل Grok به کاربر دارای محتوای هذیانی توصیه‌های نگران‌کننده ارائه کرد. [۱۳]
• اعتماد بیش از حد بیمار و جایگزینی مراجعه حضوری: بخشی از کاربران پس از مکالمه‌ با چت‌بات‌ها از مراجعة حضوری صرف‌نظر می‌کنند. در گزارش ۲۰۲۶ واشنگتن‌پست، درصدی از کاربران اعلام کردند پس از توصیه AI دیگر به پزشک مراجعه نکرده‌اند.[۱۴] همچنین گزارش‌های فراوانی از وابستگی عاطفی انسان‌ها به چت‌بات‌ها وجود دارد، و هنگامی که یک چت‌بات در نقش روانشناس قرار می‌گیرد این مسئله می‌تواند مشکلات زیادی ایجاد کند.
• فرسایش مهارت بالینی متخصصان در اثر وابستگی بیش از حد به AI: اگر پزشک یا درمانگری به مرور تحلیل اولیه، نگارش تشخیص افتراقی و تصمیم‌سازی را به سامانه‌های هوش مصنوعی واگذار کند، ممکن است مهارت حرفه‌ای او تضعیف شود؛ مشابه نگرانی‌هایی که قبلاً درباره اتکای بیش از حد به GPS در ناوبری مطرح شده بود. [۱۵]

مخاطرات حقوقی و حرفه‌ای

نامشخص بودن مسئول خطا یا آسیب: اگر هوش مصنوعی توصیه‌ای اشتباه دهد و بیمار آسیب ببیند، مسئولیت آن با پزشک ناظر، شرکت نرم‌افزاری، مرکز درمانی یا نهاد ناظری است که در سیاست‌گذاری درست کوتاهی کرده؟ بسیاری از نظام‌های حقوقی هنوز پاسخ روشنی برای این وضعیت ندارند.[۱۶]
تعارض با حدود صلاحیت حرفه‌ای و استاندارهای حرفه‌ای درمان پزشکان و روانشناسان: توصیه‌های AI ممکن است با گایدلاین‌های ملی، شرح وظایف حرفه‌ای یا اصول اخلاق پزشکی و روانشناسی سازگار نباشد.
نقض محرمانگی و استفاده تجاری از داده‌های بیماران: کاربران معمولاً اطلاعات شخصی خود را به چت‌بات‌ها می‌دهند. متخصصین هشدار می‌دهند که برخی سامانه‌ها ممکن است داده‌های مکالمات کاربران را برای آموزش مدل یا اهداف تجاری نگه دارند. [۱۷]
فعالیت بدون مجوز «روانشناسان و پزشکان هوش مصنوعی»، بعضا بدون وجود پیشینه مطالعاتی و علمی: در بسیاری از کشورها هنوز قوانین مشخصی برای فعالیت این چت‌بات‌ها وضع نشده است. در ایران نیز مشخص نیست متولی نظارت بر این چت‌بات‌ها کدام وزارتخانه یا سازمان است.
افزایش دعاوی قضایی علیه پزشکان استفاده‌کننده از AI: حتی اگر AI صرفاً یک ابزار کمکی باشد، در صورت وقوع خطا ممکن است پزشک به دلیل اتکای ناموجه به سامانه‌های هوش مصنوعی مورد شکایت قرار گیرد؛ به‌ویژه اگر مستندسازی نظارت انسانی وجود نداشته باشد. [۱۸]

مخاطرات حاکمیتی و ملی

• وابستگی ساختاری به پلتفرم‌های خارجی: اگر خدمات سلامت دیجیتال کشور تنها متکی بر ابزارهای خارجی باشد، با تغییر سیاست شرکت‌ها، تحریم‌ها، محدودیت دسترسی یا افزایش قیمت دچار اختلال خواهد شد.
• انتقال داده‌های سلامت شهروندان به خارج کشور: اطلاعات مربوط به بیماری‌های جسمی، روانی، مصرف دارو و سبک زندگی جزو حساس‌ترین داده‌های شهروندان هستند. انتقال این داده‌ها به سرورهای خارجی می‌تواند خطرات امنیتی غیرقابل جبرانی به همراه داشته باشد.
• نبود مدل‌های فارسی دقیق برای فرهنگ و زبان ایران: بسیاری از مدل‌های متنی انگلیسی در فهم اصطلاحات بومی، سبک و لحت بیان فارسی، تفاوت‌های فرهنگی و مفاهیم روانشناختی فارسی ضعف دارند. برای مثال ابزارهایی مانند چت‌جی‌پی‌تی ممکن است در فهم دقیق اینکه «احساس میکنم دلم داره میترکه» به مشکل بخورند.
• عقب‌ماندگی نهادهای صنفی و تنظیم‌گر از واقعیت بازار: سرعت پیشرفت و گسترش ابزارهای هوش مصنوعی به قدری بالاست که مردم قبل از ورود نهادهای صنفی و تنظیم‌گر، شروع به استفاده و اتکا به آن‌ها می‌کنند.
• استفاده از ابزارهای هوش مصنوعی سلامت‌محور برای عملیات نفوذ یا گسترش اطلاعات نادرست: سامانه‌های ظاهراً درمانی می‌توانند برای جمع‌آوری داده جمعیتی، تبلیغات هدفمند یا انتشار اطلاعات غلط پزشکی در زمان بحران‌ها (همه‌گیری، واکسیناسیون، ناآرامی‌ها و جنگ) به‌کار روند.

۴. سیاست‌گذاری‌های فعلی در کشورهای پیشرو

اتحادیه اروپا        

اتحادیه اروپا سخت‌گیرانه‌ترین مدل جهان را برگزیده و AI در سلامت را عمدتاً در دسته سامانه‌های پرخطر (High-Risk) قرار داده است. تمرکز اصلی بر ایمنی بیمار، حقوق بنیادین، شفافیت و نظارت انسانی است. [۱۹]

الزامات اصلی برای ابزارهای AI پزشکی و روانشناسی:

• هوش مصنوعی پزشکی مشمول دستة پرخطر است: استفاده از AI در تشخیص، درمان، تصمیم بالینی یا عملکرد ابزار پزشکی پرخطر محسوب می‌شود. بسیاری از نرم‌افزارهای تصمیم‌یار، تریاژ و تصویربرداری شامل این دسته می‌شوند
• الزام ارزیابی ریسک پیش از عرضه: شرکت باید خود اظهار کند سامانه چه خطراتی دارد و چگونه آنها را کاهش داده است.
• کیفیت داده‌های آموزشی: داده‌ها باید از نظر خطا، سوگیری، تنوع جمعیتی و تناسب بالینی بررسی شوند.
• نظارت انسانی اجباری: سامانه نباید بدون امکان مداخله انسان در تصمیمات حساس سلامتی استفاده شود.
• ثبت رخدادها و قابلیت ممیزی: خروجی‌ها، نسخه مدل، رخدادها و خطاها باید قابل ردیابی و ارزیابی باشند.
• شفافیت برای کاربران بیمار: کاربر باید بداند با AI تعامل می‌کند و محدودیت‌های آن چیست
• پایش پس از عرضه : اگر پس از شروع کار، خطا یا افت عملکردی رخ دهد، شرکت موظف به اصلاح و گزارش است.
• همراهی با مقررات سلامت اروپا: اگر ابزار نقش پزشکی داشته باشد، علاوه بر AI Act باید با MDR / IVDR  (قوانین تجهیزات پزشکی اروپا) نیز منطبق باشد.

آمریکا

قوانین آمریکا در این حیطه، بخش‌محور و عمل‌گرایانه است. به‌جای وجود یک قانون واحد و جامع فدرال، نهادهای  FDA، FTC، HIPAA، ایالت‌ها و مسئولیت مدنی اقدام به قانون‌گذاری کرده‌اند. تمرکز بر ایمنی محصول و نوآوری سریع است. به عبارتی آمریکا اجازة رشد سریع محصولات نوآورانه را داده، با این حال این شرکت‌ها پس از ارائه سرویس‌های خود باید پاسخگوی FDA، دادگاه‌ها و نهادهای حمایت از حقوق مصرف‌کنندگان باشند.

الزامات اصلی برای ابزارهای AI پزشکی و روانشناسی:

رویکرد ترکیبی ایالتی و فدرال. برای مثال برخی ایالت‌ها معرفی چت‌بات‌های AI تحت عنوان روانشناس را ممنوع کرده‌اند.
اگر ابزار نقش تشخیصی/درمانی داشته باشد، ممکن است دستگاه پزشکی محسوب شود و تحت نظارت FDA قرار گیرد. [۲۰]
توسعه راهنماهای FDA برای نرم‌افزارهای پزشکی مبتنی بر AI
پایلوت‌های ایالتی: برای نمونه طرح یوتا برای تمدید محدود داروهای روانپزشکی از پیش تجویز شده (همراه با نظارت پزشک)
حفاظت از حریم خصوصی سلامت (HIPAA)
اگر ارائه‌دهنده یک برنامه، مشمول HIPAA باشد داده‌های سلامت باید تحت قواعد محرمانگی نگهداری شود.
نظارت FTC بر تبلیغات گمراه‌کننده
اگر شرکتی ادعاهای درمانی بدون پشتوانه درباره AI مطرح کند، ممکن است با اقدام FTC مواجه شود.

 چین

چین نوآوری هوش مصنوعی در حیطة سلامت را تشویق می‌کند، اما در چارچوب کنترل مرکزی دولتی، امنیت داده، کنترل محتوا و حفظ نظم اجتماعی.

الزامات اصلی برای ابزارهای AI پزشکی و روانشناسی:

ثبت و مجوزدهی برای الگوریتم‌ها و خدمات هوش مصنوعی: بسیاری از برنامه‌ها باید در سامانه‌های نظارتی دولتی ثبت شوند.[۲۱]
الزام برچسب‌گذاری محتوای تولیدشده توسط AI: کاربر باید بداند خروجی تولیدشده توسط ماشین است.
کنترل امنیت داده و اطلاعات شخصی: داده‌های حساس، به‌ویژه سلامت، تحت قواعد امنیت سایبری و قوانین داده قرار می‌گیرند.
الزام هم‌سویی با ارزش‌ها و قواعد محتوایی رسمی: خروجی AI نباید محتوای ممنوع، شایعه یا تهدیدکننده نظم عمومی تولید کند.
مقررات جدید درباره AIهای انسان‌نما و همراه عاطفی: در سال ۲۰۲۵ چین پیش‌نویس مقرراتی برای چت‌بات‌های دارای تعامل عاطفی منتشر کرد؛ شامل هشدار اعتیاد، پایش وابستگی کاربر و مداخله در صورت آسیب روانی.
سرمایه‌گذاری گسترده در AI بیمارستانی: همزمان با کنترل مقرراتی، چین از توسعه AI در تریاژ، بیمارستان‌های هوشمند، تصویربرداری و مراقبت اولیه حمایت مالی می‌کند.

جمع‌بندی روند جهانی

مدل غالب جهان نه ممنوعیت کامل است و نه رهاسازی کامل؛ بلکه هدف کنترل نوآوری همراه با نظارت‌های مرحله‌ای است. نکته مهم آن است. در کشورهایی که بررسی کردیم، یک اصل مشترک وجود دارد: هوش مصنوعی در سلامت بدون نظارت انسانی، بدون مسئولیت حقوقی و بدون قواعد داده رها نمی‌شود. حتی آزادترین بازارها نیز AI درمانی را کاملاً آزاد نگذاشته‌اند.

۵. پیشنهادات سیاستی

اقدامات فوری (۶ ماهه)

• تشکیل کارگروه ملی هوش مصنوعی و سلامت میان وزارت بهداشت، نظام پزشکی، نظام روانشناسی، مرکز ملی فضای مجازی، مجلس، قوه قضاییه و بخش خصوصی. هدف این کارگروه باید تدوین سیاست‌های واحد است.
• تعریف رسمی مرز استفاده مجاز AI در پزشکی و روانشناسی (غربالگری، مستندسازی، تشخیص، درمان، تمدید یا تجویز داروها).
• ممنوعیت تجویز مستقل دارو توسط چت‌بات‌ها تا زمان تصویب ضوابط ملی.
• الزام افشای هویت AI به کاربر؛ کاربر باید بداند با انسان ویا نظارت انسانی صحبت نمی‌کند
• ممنوعیت تبلیغات گمراه‌کننده: استفاده از عناوینی مانند «روانشناس هوش مصنوعی» بدون مجوز حرفه‌ای ممنوع شود.
• صدور هشدار رسمی صنفی به پزشکان و روانشناسان درباره خطر بارگذاری اطلاعات هویتی بیماران در ابزارهای هوش مصنوعی خارجی.

اقدامات میان‌مدت (۱ تا ۲ سال)

• ایجاد  sandbox نظارتی ایران برای آزمایش محدود سامانه‌های AI سلامت. این محیط ایزوله باید تحت نظارت دانشگاه‌های علوم پزشکی و نهادهای صنفی باشد.
• نظام مجوزدهی مبتنی بر سطح خطر (مانند الگوی اتحادیه اروپا):
• خطر پایین: آموزش، زمان‌بندی و یادآوری، خلاصه سازی
• خطر متوسط: غربالگری و پایش
• خطر بالا: تشخیص، درمان، تجویز نسخه، مدیریت بحران‌های روانی
• تدوین نظام مسئولیت حقوقی خطاهای AI
• صدور مجوز حرفه‌ای برای نرم‌افزارهای سلامت روان دیجیتال.
• ایجاد استاندارد ملی برای حفظ محرمانگی داده‌های سلامت.
• الزام ارزیابی علمی پیش از عرضه عمومی: هر ابزار پزشکی یا روانشناسی AI قبل از عرضه عمومی، باید شواهد اثربخشی، ایمنی و اعتبارسنجی جمعیتی ارائه کند.
• تدوین تعرفه خدمات مبتنی بر هوش مصنوعی

اقدامات راهبردی

• سرمایه‌گذاری در مدل‌های زبانی فارسی حوزه سلامت.
• ایجاد ابر‌داده ملی سلامت با دسترسی کنترل‌شده پژوهشی: نبود داده‌های ایرانی برای آموزش مدل‌های داخلی، پژوهش و نوآوری بسیار مشکل‌زاست؛ در عین حال حفظ امنیت این داده‌ها نیز اولویت بالایی دارد.
• حمایت از استارتاپ‌های داخلی تحت نظارت علمی دانشگاه‌ها.
• آموزش اجباری پزشکان و روانشناسان درباره سواد استفاده از AI
• ایجاد سامانه ملی گزارش خطا و حوادث ناشی از AI درمانی.
• اولویت دادن به AI به‌عنوان کمک‌یار متخصص نه جایگزین متخصص.