این موضوع بهخودیخود نگرانکننده است. یعنی حجم کلی پورنوگرافی کودکان که در اینترنت شناسایی شده نسبت به سال ۲۰۲۴، که خودش رکورد قبلی بود، ۷ درصد افزایش یافته است. اما نگرانی بزرگتر آن است که محتوای پورن کودک تولید شده توسط AI، بهخصوص ویدیوها، افزایش داشته است. در نگاه اول، گسترش تصاویر و ویدئوهای تولیدشده با هوش مصنوعی از سوءاستفاده جنسی از کودکان ممکن است این تصور اشتباه را ایجاد کند که هیچ کودکی آسیب ندیده است. اما واقعیت ایگونه نیست. تصاویر و ویدئوهای آزارگرانهً تولیدشده با هوش مصنوعی، کودکان واقعی را به تصویر میکشند و قربانی میکنند؛ چون یا مدلها با استفاده از پورنوگرافی واقعی کودکان آموزش دیدهاند، یا چون از عکسها و ویدئوهای واقعی موجود در فضای مجازی برای تولید محتوا استفاده میکنند.
IWF اعلام کرده که در سال ۲۰۲۵، سه هزار و چهارصد ویدئوی تولیدشده با AI از سوءاستفاده جنسی از کودکان پیدا کرده است؛ در حالی که این آمار برای سال قبل تنها ۱۳ مورد بوده است. شبکههای اجتماعی، پیامرسانهای رمزگذاریشده و انجمنهای دارکوب سالهاست که به افزایش تدریجی محتوای سوءاستفاده جنسی از کودکان دامن زدهاند، و حالا هوش مصنوعی مولد این بحران را بهطرز چشمگیری تشدید کرده است. به احتمال زیاد، در سال ۲۰۲۶ رکورد وحشتناک دیگری ثبت خواهد شد.
از میان هزاران ویدئوی تولیدشده با هوش مصنوعی که IWF در سال ۲۰۲۵ کشف کرده، نزدیک به دوسوم در «دستهبندی A»؛ شدیدترین سطح شامل تجاوز و شکنجه جنسی قرار گرفتهاند. ۳۰ درصد دیگر در «دستهبندی B» بودند که آزار جنسی را نشان میدهند. کری اسمیت[۱]، مدیر اجرایی IWF، در بیانیهای گفت: «با ظهور این فناوری جدید، مجرمان سوءاستفاده جنسی از کودکان عملاً میتوانند ماشینهای شخصی داشته باشند تا هر چیزی را که میخواهند ببینند تولید کنند».
IWF اعلام کرده که در سال ۲۰۲۵، سه هزار و چهارصد ویدئوی تولیدشده با AI از سوءاستفاده جنسی از کودکان پیدا کرده است
حجم تصاویر تولیدشده با هوش مصنوعی از سوءاستفاده جنسی از کودکان نیز دستکم از سال ۲۰۲۳ در حال افزایش بوده است. برای مثالIWF گزارش داده که دفقط طی یک ماه در اوایل ۲۰۲۴، کاربران در یک انجمن دارکوب بیش از ۳ هزار تصویر تولیدشده با هوش مصنوعی آپلود کردهاند. اوایل ۲۰۲۵، مؤسسه امنیت دیجیتال «ثورن[۲]» گزارش داد که در میان نمونه بیش از ۷۰۰ نوجوان آمریکایی که مورد بررسی قرار داده، ۱۲ درصد کسی را میشناختند که قربانی «دیپفیک برهنگی[۳]» شده باشد. در تولید محتوای سوءاستفاده جنسی از کودکان توسط هوش مصنوعی، ویدیو به نسبت تصاویر عقبتر بود، چون ابزارهای تولید ویدئو با AI بهمراتب کمتر از ابزارهای تولید تصویر پیشرفته و واقعگرایانه بودند. جاش توماس[۴]، سخنگوی IWF به من گفت: «وقتی ویدئوهای هوش مصنوعی، واقعی یا پیشرفته به نظر نمیرسیدند، مجرمان هم چندان به سراغشان نمیرفتند.» اما حالا این وضعیت تغییر کرده است.
سال گذشته، OpenAI مدل Sora 2، گوگل Veo 3 و xAI هم Grok Imagine را عرضه کرد. همزمان، شرکتهای دیگری نیز مدلهای متنباز بسیار پیشرفتهای برای تولید ویدئو با AI ساختهاند. این ابزارهای متنباز معمولاً برای همه رایگاناند و موانع امنیتی بسیار کمتری دارند، تازه اگر واقعا مانعی برای آنها طراحی شده باشد! قریب به یقین ویدئوها و تصاویری از سوءاستفاده جنسی از کودکان وجود دارند که مقامات دولتی هرگز آنها را شناسایی نخواهند کرد، چون روی کامپیوترهای شخصی ساخته و ذخیره میشوند؛ بهجای اینکه سوءاستفادهگران مجبور باشند چنین محتوایی را بهصورت آنلاین پیدا و دانلود کنند و خودشان را در معرض خطر دستگیری قرار دهند، حالا میتوانند در خفا فعالیت کنند.
OpenAI، گوگل، آنتروپیک و چند آزمایشگاه بزرگ دیگر هوش مصنوعی به ابتکاری برای جلوگیری از سوءاستفاده جنسی از کودکان با کمک AI پیوستهاند، و همه این شرکتهای بزرگ میگویند تدابیری برای جلوگیری از استفاده از ابزارهایشان در چنین مواردی دارند. با این حال، این موانع امنیتی قابل دور زدن هستند. در نیمه اول سال ۲۰۲۵، OpenAI بیش از ۷۵ هزار مورد تصویر مرتبط با سوءاستفاده جنسی از کودکان یا آزار کودکان را از پلتفرمهایش به مرکز ملی کودکان گمشده و مورد سوءاستفاده (NCMEC) گزارش کرده است؛ رقمی که بیش از دو برابر تعداد گزارشهای نیمه دوم ۲۰۲۴ است. سخنگوی OpenAI به من گفت که این شرکت محصولاتش را طوری طراحی کرده که تولید یا انتشار «محتوایی که کودکان را مورد سوءاستفاده یا آسیب قرار دهد» ممنوع باشد و در صورت نقض قوانین، اقدام میکند. این شرکت تمام موارد سوءاستفاده جنسی از کودکان را به NCMEC گزارش میدهد و حسابهای مرتبط را مسدود میکند.
زمانی که کاربران از Grok، مدل هوش مصنوعی ایلان ماسک، برای تولید احتمالاً صدها هزار تصویر جنسی، عمدتاً از زنان و کودکان، بهصورت عمومی در شبکه اجتماعی X استفاده کردند. ماسک اصرار داشت که «از هیچ تصویر برهنه زیر سن قانونی که توسط گراک تولید شده باشد خبر ندارد» و کاربران را مقصر درخواستهای غیرقانونی دانست؛ در همین حال، کارکنانش بیسروصدا بخشی از قابلیتهای این ابزار را محدود کردند
به بیان دیگر، پیشرفت و استفادهً آسان از ابزارهای تولید محتوای ویدئویی AI، راهی جدید برای سوءاستفاده فراهم کرده است. این موضوع در هفتههای اخیر بهوضوح دیده شد؛ زمانی که کاربران از Grok، مدل هوش مصنوعی ایلان ماسک، برای تولید احتمالاً صدها هزار تصویر جنسی، عمدتاً از زنان و کودکان، بهصورت عمومی در شبکه اجتماعی X استفاده کردند. ماسک اصرار داشت که «از هیچ تصویر برهنه زیر سن قانونی که توسط گراک تولید شده باشد خبر ندارد» و کاربران را مقصر درخواستهای غیرقانونی دانست؛ در همین حال، کارکنانش بیسروصدا بخشی از قابلیتهای این ابزار را محدود کردند.
IWF هنگام رصد دارکوب متوجه شد که در برخی موارد، افراد ظاهراً از گراک برای ساخت تصاویر آزار و اذیت کودکان ۱۱ تا ۱۳ ساله استفاده کردهاند و سپس آن تصاویر را وارد ابزارهای آزادتر و کممحدودیتتر کردهاند تا محتوایی حتی تاریکتر و آشکارتر تولید کنند. اسمیت در بیانیه IWF گفت: «دسترسی آسان به این محتوا باعث جسور شدن بیمارانی میشود که به کودکان گرایش جنسی دارند» و «به تجاریسازی این فرایند دامن میزنند». دیروز، تیم ایمنی X اعلام کرد که توانایی تولید تصاویر کاربران با لباسهای بدننما را محدود کرده و «در صورت نیاز» با مقامات قانونی همکاری میکند.
متاسفانه نشانههایی از بدتر شدن این بحران و سوءاستفاده جنسی از کودکان با استفاده از AI وجود دارد. در حالی که کشورهای بیشتری، از جمله انگلیس و آمریکا، قوانینی برای غیرقانونی کردن تولید و انتشار چنین محتوایی تصویب میکنند، پیگرد قضایی مجرمان همچنان کند پیش میرود. در همین حال، سیلیکونولی با سرعتی سرسامآور به حرکتش ادامه میدهد.
فناوریهای دیجیتال مختلفی برای آزار و سوءاستفاده از مردم به کار گرفته شدهاند؛ با اینکه عصر سوءاستفاده جنسی مبتنی بر AI از یک دهه پیش هم قابل پیشبینی بود، اما با این حال فرا رسیده و بهنظر در برابر آن خلع سلاح هستیم. مدیران، مهندسان و مفسران دنیای AI معمولاً دوست دارند بگویند مدلهای امروزی ضعیفترین نسخهای هستند که این فناوری خواهد داشت. به همان ترتیب، توانایی AI برای سوءاستفاده از کودکان هم ممکن است از اینجا به بعد فقط بدتر شود.
