وقتی واقعیت جعلی میشود (قسمت دوم)
چین چگونه میخواهد اعتماد را به اینترنت برگرداند؟
چند سال پیش، اگر فردی قربانی یک کلاهبرداری اینترنتی میشد، معمولاً روند ماجرا قابل پیشبینی بود. ابتدا پول از حساب او خارج میشد، بعد متوجه فریب میشد، سپس به پلیس مراجعه میکرد و در نهایت پروندهای برای پیگیری قضایی تشکیل میشد.
به بیان ساده، نظام حکمرانی معمولاً بعد از وقوع خسارت وارد عمل میشد.
اما چین در سالهای اخیر تلاش کرده این منطق را تغییر دهد.
امروز اگر سامانههای ضدکلاهبرداری در چین نشانههایی از یک رفتار مشکوک را شناسایی کنند، ممکن است پیش از تکمیل تراکنش به کاربر هشدار دهد و انتقال وجه متوقف شود یا از فرد خواسته شود دوباره هویت خود را تأیید کند.
شاید در نگاه اول، این صرفاً یک قابلیت فنی به نظر برسد؛ اما در واقع پشت آن، تغییر مهمی در نگاه سیاستگذار نهفته است: جلوگیری از وقوع فریب، بهجای رسیدگی به پیامدهای آن!
از مقابله با محتوا تا مدیریت زنجیره اعتماد
در یادداشت قبل دیدیم که چگونه رشد هوش مصنوعی، دیپفیکها، حسابهای جعلی و شبکههای هماهنگ انتشار محتوا، مسئله اعتماد را به یکی از دغدغههای اصلی اقتصاد دیجیتال تبدیل کرده است.
پاسخی که چین به این مسئله داد، تا حدی متفاوت از رویکردهای متعارف بود.
در بسیاری از کشورها، تمرکز اصلی بر حذف محتوای مسئلهدار است؛ یعنی پس از انتشار یک محتوای جعلی، تلاش میشود آن محتوا شناسایی و حذف شود.
اما در نگاه سیاستگذاران چینی، این رویکرد بهتنهایی کافی نیست.
دلیلش هم روشن است. در عصر هوش مصنوعی، تولید محتوای جعلی آنقدر ارزان و سریع شده که حذف تکتک مصادیق، عملاً به مسابقهای بیپایان تبدیل میشود. هر ویدئوی حذفشده میتواند با دهها نسخه جدید جایگزین شود و هر حساب مسدودشده میتواند دوباره بازسازی شود.
به همین دلیل، چین بهتدریج تمرکز خود را از «خودِ محتوا» به سمت «زنجیره تولید اعتماد» منتقل کرد.
پرسش اصلی دیگر این نبود که چه محتوایی جعلی است؛ بلکه این بود که چه کسی آن را تولید کرده، چگونه منتشر شده و آیا منشأ آن قابل شناسایی است یا نه.
بازگشت به یک مفهوم قدیمی: مسئولیتپذیری
اعتماد در دنیای واقعی معمولاً با مسئولیتپذیری همراه است.
وقتی فردی قراردادی را امضا میکند، کالایی را میفروشد یا خدمتی ارائه میدهد، هویت او مشخص است و در صورت بروز مشکل میتوان او را پاسخگو دانست.
اما فضای دیجیتال همیشه چنین ویژگیای نداشته است.
بخش قابل توجهی از کلاهبرداریهای اینترنتی بر پایه هویتهای واسطهای شکل میگیرند؛ حسابهای بانکی اجارهای، سیمکارتهای ثبتشده به نام دیگران، کیفپولهای دیجیتال با مالک نامشخص و شبکههایی از حسابهای کاربری که ظاهراً مستقلاند اما در عمل بهصورت هماهنگ فعالیت میکنند.
یکی از پاسخهای چین به این مسئله، حرکت به سمت اتصال بیشتر میان هویتهای دیجیتال بوده است.
در این مدل، حسابهای بانکی، شناسههای مخابراتی، حسابهای کاربری و برخی سوابق رفتاری در نقاط مشخصی از زنجیره خدمات دیجیتال به یکدیگر متصل میشوند. هدف از این کار آن است که پنهان شدن پشت هویتهای متعدد دشوارتر شود و امکان ردیابی فعالیتهای مشکوک افزایش پیدا کند.
به بیان دیگر، سیاستگذار تلاش کرده یکی از عناصر فراموششده اعتماد را به فضای آنلاین بازگرداند: قابلیت انتساب.
اگر هوش مصنوعی مسئله است، میتواند بخشی از راهحل هم باشد!
یکی از جالبترین بخشهای تجربه چین، استفاده از خودِ هوش مصنوعی برای مقابله با تهدیدهای ناشی از آن بود.
در سالهای اخیر، بسیاری از پلتفرمهای بزرگ چینی سامانههایی را توسعه دادهاند که بهصورت خودکار الگوهای غیرطبیعی را شناسایی میکنند.
برای مثال، اگر هزاران حساب کاربری بهطور همزمان و با الگوهایی مشابه یک محتوا را بازنشر کنند، اگر موجی از نظرات مثبت از مجموعه محدودی از دستگاهها ارسال شود یا اگر یک پخش زنده نشانههایی از سناریوی از پیش طراحیشده برای تحریک احساسات کاربران داشته باشد، سامانه میتواند آن را بهعنوان رفتار مشکوک شناسایی کند.
نکته مهم اینجاست که این سامانهها صرفاً محتوا را بررسی نمیکنند؛ بلکه الگوهای انتشار، ارتباط میان حسابها و رفتارهای هماهنگ را نیز زیر نظر دارند.
در واقع، تمرکز از «چه چیزی گفته شده» به سمت «این محتوا چگونه تولید و توزیع شده است» حرکت کرده است.
برچسبگذاری واقعیت
یکی دیگر از اقدامات مهم چین، مقررات مربوط به محتوای تولیدشده با هوش مصنوعی است.
بر اساس این رویکرد، پلتفرمها موظف شدهاند برای برخی از انواع محتوای تولیدشده با AI برچسبهایی مشخص در نظر بگیرند تا کاربران بدانند با محتوایی ماشینی مواجهاند.
در کنار این موضوع، ثبت اطلاعات فنی و متادیتای مرتبط با منشأ تولید محتوا نیز مورد توجه قرار گرفته است.
هدف فقط آگاه کردن کاربران نیست؛ بلکه ایجاد امکان رهگیری بعدی است.
به زبان ساده، اگر فردی با استفاده از هوش مصنوعی، تصویری جعلی از یک پزشک، روزنامهنگار یا شخصیت عمومی تولید کند، صرفاً حذف آن تصویر مدنظر نیست؛ بلکه باید امکان شناسایی منشأ تولید آن نیز وجود داشته باشد.
اینترنت آینده؛ میدان نبرد اعتماد
شاید مهمترین نکته در تجربه چین این باشد که مسئله را صرفاً به «محتوای جعلی» تقلیل نداده است.
در نگاه چینی، بحران اصلی در عصر هوش مصنوعی، بحران اعتماد است.
اگر کاربران نتوانند تشخیص دهند چه چیزی واقعی است، اگر نتوانند به هویت افراد اعتماد کنند و اگر سازوکارهای اعتبارسنجی کارکرد خود را از دست بدهند، بخش مهمی از اقتصاد دیجیتال نیز دچار اختلال خواهد شد.
به همین دلیل، بسیاری از سیاستهای جدید چین را میتوان تلاشی برای بازطراحی معماری اعتماد در فضای آنلاین دانست؛ تلاشی که البته موافقان و منتقدان خاص خود را دارد و درباره حدود و شیوه اجرای آن بحثهای فراوانی وجود دارد.
با این حال، یک نکته تقریباً روشن است: چین زودتر از بسیاری از کشورها متوجه شد که چالش اصلی اینترنت آینده، صرفاً اطلاعات غلط یا چند کلاهبرداری پراکنده نیست؛ بلکه فرسایش تدریجی اعتمادی است که کل زیستبوم دیجیتال بر آن بنا شده است.
و شاید همین پرسش، مهمترین پرسش عصر هوش مصنوعی باشد:
اگر روزی دیگر نتوانیم به آنچه میبینیم، میشنویم و بر اساس آن تصمیم میگیریم اعتماد کنیم، دقیقاً چه چیزی از اینترنت باقی خواهد ماند؟
