نگاهی به گزارش اخیر اداره فضای مجازی چین

از یک ویدئوی جعلی تا یک بحران واقعی

چند ماه پیش، ویدئویی در شبکه‌های اجتماعی چین به‌سرعت دست‌به‌دست شد. در این ویدئو، یکی از مجری‌های شناخته‌شده تلویزیون مرکزی چین با همان لحن رسمی و چهره آشنای همیشگی، درباره فواید یک مکمل روغن ماهی صحبت می‌کرد. همه‌چیز طبیعی به نظر می‌رسید؛ کیفیت تصویر حرفه‌ای بود، صدا کاملاً واقعی به گوش می‌رسید و ویدئو تفاوتی با یک تبلیغ معمول تلویزیونی نداشت.

فقط یک مسئله وجود داشت: آن مجری هرگز چنین تبلیغی را ضبط نکرده بود!

بعدها مشخص شد تصویر و صدای او با استفاده از ابزارهای هوش مصنوعی بازسازی شده است. شرکت تبلیغاتی بدون اجازه، چهره و صدای او را شبیه‌سازی کرده بود تا محصولش معتبرتر به نظر برسد؛ و مهم‌تر آنکه بسیاری از کاربران نیز در نگاه اول متوجه جعلی بودن ویدئو نشده بودند.

این اتفاق صرفاً یک سوءاستفاده ساده از هوش مصنوعی نبود، بلکه شروع یک جریان بزرگ‌تر بود. جریانی که نشان داد چالش بعدی ما دیگر تشخیصِ خبرهای دروغی نیست؛ چالش اصلی این است که خودِ واقعیت هم قابلیت شبیه‌سازی پیدا کرده است.

اینترنتی که دیگر شبیه گذشته نیست

تا چند سال پیش، فریب در اینترنت معمولاً شکل آشنایی داشت؛ یک سایت قلابی، پیامکی مشکوک یا حساب کاربری‌ای که از ظاهرش می‌شد غیرواقعی بودن آن را حدس زد. کاربران یاد گرفته بودند به لینک‌های ناشناس اعتماد نکنند، رمزهای عبور خود را در هر سایتی وارد نکنند و مراقب کلاهبرداری‌های اینترنتی باشند.

اما اینترنت امروز تفاوت کرده است.

اکنون تنها با چند ابزار هوش مصنوعی می‌توان صدای افراد را بازسازی کرد، تصویرشان را ساخت، برایشان ویدئو تولید کرد و محتوایی خلق کرد که گاهی از نمونه واقعی‌اش نیز واقعی‌تر به نظر می‌رسد. اگر در گذشته مسئله اصلی «دروغ» بود، امروز مسئله «واقعیت مصنوعی» است.

تفاوت این دو شاید در ظاهر چندان چشمگیر نباشد، اما در عمل پیامدهای کاملاً متفاوتی دارند. دروغ معمولاً حقیقت را پنهان یا تحریف می‌کند؛ اما واقعیت مصنوعی تلاش می‌کند جای حقیقت بنشیند. مخاطب دیگر صرفاً با یک ادعای نادرست مواجه نیست، بلکه با تصویر، صدا و شواهدی روبه‌روست که همگی واقعی به نظر می‌رسند.

به همین دلیل، مسئله امروز صرفاً افزایش محتوای جعلی نیست؛ بلکه تضعیف تدریجی توان تشخیص میان امر واقعی و امر ساختگی است.

چرا مسئله فقط فنی نیست؟

این تغییر صرفاً چالشی برای کاربران نیست. برای پلتفرم‌ها، کسب‌وکارها و حتی دولت‌ها نیز به مسئله‌ای راهبردی تبدیل شده است. اگر کاربران دیگر نتوانند به ویدئوها، نظرها، فروشگاه‌ها یا حتی صدای افراد اعتماد کنند، بخش مهمی از اقتصاد دیجیتال عملاً کارکرد خود را از دست خواهد داد.

در نهایت، اقتصاد دیجیتال بر چیزی فراتر از فناوری بنا شده است: اعتماد.

وقتی کاربری از یک فروشگاه اینترنتی خرید می‌کند، وقتی مسافری اتاقی را رزرو می‌کند یا وقتی فردی توصیه یک اینفلوئنسر را می‌پذیرد، در واقع به مجموعه‌ای از نشانه‌ها اعتماد می‌کند؛ به تصاویر، امتیازها، نظرات کاربران و هویت افرادی که پشت صفحه نمایش قرار دارند.

اما اگر همه این نشانه‌ها قابل جعل باشند، چه اتفاقی می‌افتد؟

چین چگونه به «بحران اعتماد دیجیتال» رسید؟

چین یکی از نخستین کشورهایی بود که این مسئله را نه صرفاً به‌عنوان یک بحران امنیت سایبری، بلکه به‌عنوان «بحران اعتماد دیجیتال» صورت‌بندی کرد. در ادبیات سیاستی این کشور، به‌تدریج مفهومی برجسته شد که ترجمه تقریبی آن «اعتماد در فضای شبکه» است؛ ایده‌ای مبتنی بر این نگاه که اینترنت فقط زیرساخت اطلاعات نیست، بلکه زیرساخت اعتماد نیز هست.

البته چین یک‌شبه به این جمع‌بندی نرسید. نگرانی درباره اعتماد در فضای آنلاین، هم‌زمان با گسترش اقتصاد دیجیتال این کشور شکل گرفت. در ابتدا، مسئله بیشتر شبیه آسیب‌های رایج اینترنت بود؛ فروش کالای تقلبی، امتیازهای جعلی، حساب‌های فیک و فروشنده‌هایی که پس از دریافت پول ناپدید می‌شدند.

اما با رشد پلتفرم‌هایی مانند تائوبائو، جی‌دی و بعدتر اقتصاد لایو استریم، ابعاد مسئله نیز تغییر کرد. اینترنت دیگر صرفاً محل گفتگو یا سرگرمی نبود؛ مردم زندگی روزمره خود را به آن سپرده بودند. خرید می‌کردند، غذا سفارش می‌دادند، تاکسی می‌گرفتند و حتی خدمات درمانی دریافت می‌کردند.

قضیه دیگر فراتر از یک دغدغه‌ی فنیِ ساده بود؛ حالا هر خدشه‌ای به این اعتماد، می‌توانست نظمِ زندگی روزمره‌ی جامعه و شریان‌های اقتصادی را به مخاطره بیندازد؛ بحرانی که با عبور از عصر پلتفرم‌ها و پدیدار شدن هوش مصنوعی، ابعادی به‌مراتب جدی‌تر به خود گرفت.

وقتی هوش مصنوعی وارد بازی شد

سال گذشته در چین پرونده‌هایی خبرساز شد که نشان می‌داد برخی فروشندگان در لایو استریم‌ها، سناریوهای کاملاً ساختگی اجرا می‌کنند تا کاربران را به خرید هیجانی وادار کنند. دوربین روشن می‌شد، دعوای خانوادگی شکل می‌گرفت، کسی گریه می‌کرد و فرد دیگری می‌گفت: «اگر این محصول را نفروشیم ورشکست می‌شویم.» هم‌زمان لینک خرید روی صفحه ظاهر می‌شد.

بسیاری از مخاطبان تصور می‌کردند شاهد لحظه‌ای واقعی از زندگی آدم‌ها هستند؛ در حالی که تمام ماجرا از پیش طراحی شده بود.

چنین محتوایی فقط یک تبلیغ اغراق‌آمیز یا فریبنده نبود؛ بلکه نوعی مهندسی احساسی برای اثرگذاری بر رفتار کاربران محسوب می‌شد؛ وضعیتی که در آن مرز میان سرگرمی، تبلیغات و دستکاری روانی کاربران به‌تدریج محو می‌شود.

ارتش‌های اینترنتی و واقعیت‌های ساختگی

هم‌زمان، پدیده دیگری نیز رشد کرد: شبکه‌های هماهنگ حساب‌های کاربری که می‌توانستند یک محصول بی‌کیفیت را محبوب جلوه دهند، شایعه‌ای را ترند کنند یا تصویری غیرواقعی از افکار عمومی بسازند. در ادبیات رسمی چین، اصطلاحاتی مانند «ارتش‌های اینترنتی» و «شبکه‌های آبکی» دقیقاً برای توصیف چنین پدیده‌هایی به کار گرفته شد.

همه این تحولات یک پرسش مشترک را پیش روی سیاست‌گذاران قرار داد:

«اگر بخش بزرگی از آنچه مردم در اینترنت می‌بینند، حاصل عملیات هماهنگ، حساب‌های مصنوعی یا محتوای تولیدشده با هوش مصنوعی باشد، اساساً چگونه می‌توان به فضای آنلاین اعتماد کرد؟»

مسئله‌ای فراتر از چند ویدئوی جعلی

این همان نقطه‌ای بود که چین آن را یک مسئله حاشیه‌ای یا صرفاً فناورانه تلقی نکرد. از نگاه سیاست‌گذاران چینی، موضوع فقط چند ویدئوی جعلی یا چند کلاهبرداری اینترنتی نبود؛ بلکه به پایداری و قابلیت اتکای کل زیست‌بوم اقتصاد دیجیتال مربوط می‌شد.

اگر اعتماد از بین برود، خرید آنلاین، تبلیغات دیجیتال، خدمات پلتفرمی و حتی تعاملات روزمره کاربران نیز آسیب می‌بیند. به بیان دیگر، بحران اعتماد می‌تواند به بحران در کارکرد اینترنت تبدیل شود.

مسئله‌ای که تازه آغاز شده است

این پرسش در شرق آسیا زودتر از بسیاری از نقاط جهان جدی گرفته شد. اما اهمیت تجربه چین در این حوزه، فقط در تشخیص مسئله نبود؛ بلکه در پاسخی بود که برای آن طراحی کرد؛ پاسخی که از مقابله با محتوای جعلی فراتر رفت و به بازطراحی سازوکارهای تولید اعتماد در فضای مجازی رسید.

این همان موضوعی است که در یادداشت دوم به آن می‌پردازیم.