به گزارش پیچینو به نقل از ایسنا، پیشرفت‌های شتابان مدل‌های هوش مصنوعی در سال ۲۰۲۵ باعث شده چهره‌ها، صداها و اجرای تمام‌قد افراد واقعی، به‌شکلی تولید شوند که از نظر بصری و شنیداری، تفاوت معناداری با نمونه‌های واقعی نداشته باشند. این دگرگونی، هم‌زمان با افزایش گسترده استفاده از جعل‌های عمیق در کلاهبرداری، اطلاعات نادرست و فریب عمومی رخ داده است.
در بسیاری از موقعیت‌های روزمره—از تماس‌های ویدئویی کم‌کیفیت گرفته تا محتواهای وایرال در شبکه‌های اجتماعی—جعل‌های عمیق اکنون به‌طور قابل‌اعتماد افراد غیرمتخصص را فریب می‌دهند. در عمل، محتوای مصنوعی و واقعی برای عموم جامعه و در برخی موارد حتی برای نهادهای رسمی، غیرقابل‌تمایز شده است.

رشد انفجاری؛ ۹۰۰ درصد در دو سال
به گزارش گیزمودو و بر اساس برآورد شرکت امنیت سایبری DeepStrike، تعداد جعل‌های عمیق آنلاین از حدود ۵۰۰ هزار مورد در سال ۲۰۲۳ به نزدیک هشت میلیون مورد در سال ۲۰۲۵ رسیده است؛ رشدی معادل ۹۰۰ درصد.
یکی از پژوهشگران علوم رایانه فعال در حوزه جعل‌های عمیق هشدار می‌دهد:
«احتمالاً وضعیت در سال ۲۰۲۶ بدتر خواهد شد؛ زیرا جعل‌های عمیق به اجراکنندگان مصنوعی زنده تبدیل می‌شوند که می‌توانند در لحظه به انسان واکنش نشان دهند.»

چرا تشخیص دیگر کار نمی‌کند؟
چند تحول فنی هم‌زمان، این جهش کم‌سابقه را ممکن کرده‌اند:

• مدل‌های ویدئویی جدید که برای حفظ «انسجام زمانی» طراحی شده‌اند
• تولید حرکت‌های طبیعی، پایدار و پیوسته در طول ویدئو
• ثابت ماندن هویت چهره در تمام فریم‌ها
• جداسازی داده‌های «هویت» از «حرکت»، به‌گونه‌ای که یک چهره بتواند حرکات مختلف را با حفظ انسجام اجرا کند

نتیجه این پیشرفت‌ها، حذف نشانه‌های کلاسیک جعل عمیق است؛ نشانه‌هایی مثل:

• سوسو زدن تصویر
• اعوجاج اطراف چشم و فک
• تغییرات ناگهانی ساختار صورت

علائمی که زمانی ابزار اصلی شناسایی جعل بودند، اکنون عملاً ناپدید شده‌اند.

صدا؛ عبور از «آستانه غیرقابل‌تشخیص»
شبیه‌سازی صدا نیز از مرزی عبور کرده که پژوهشگران آن را آستانه غیرقابل‌تشخیص بودن می‌نامند. امروز تنها چند ثانیه نمونه صوتی کافی است تا:

• آهنگ گفتار طبیعی
• ریتم، مکث و تأکید
• احساسات انسانی
• و حتی صدای نفس کشیدن

به‌شکلی متقاعدکننده بازتولید شود.
این فناوری مستقیماً به کلاهبرداری‌های گسترده دامن زده است؛ به‌طوری که برخی خرده‌فروشان بزرگ گزارش می‌دهند روزانه بیش از هزار تماس کلاهبرداری صوتی تولیدشده با هوش مصنوعی دریافت می‌کنند. نشانه‌های شنیداری‌ که زمانی صدای مصنوعی را افشا می‌کردند، تا حد زیادی از بین رفته‌اند.

همگانی شدن جعل عمیق
پیشرفت ابزارهای مصرفی، مانع فنی تولید جعل عمیق را تقریباً به صفر رسانده است. ارتقاهای OpenAI Sora ۲ و Google Veo ۳، در کنار ده‌ها استارتاپ فعال، این امکان را فراهم کرده‌اند که:

• یک متن یا ایده توصیف شود
• مدل‌های زبانی مانند ChatGPT یا Gemini سناریو بنویسند
• و در عرض چند دقیقه محتوای صوتی–تصویری ساخته شود

عامل‌های هوش مصنوعی حتی قادرند کل این روند را کاملاً خودکار انجام دهند. تولید جعل‌های داستان‌محور، منسجم و مقیاس‌پذیر حالا به امکانی عمومی تبدیل شده است.

تحلیل پیچینو
ترکیبِ افزایش نجومی تعداد جعل‌های عمیق با شخصیت‌هایی که از انسان واقعی قابل تشخیص نیستند، محیط رسانه‌ای را وارد مرحله‌ای تازه کرده است؛ مرحله‌ای که در آن دیگر نمی‌توان بر قضاوت انسانی برای تشخیص حقیقت تکیه کرد.
با حرکت فناوری به‌سمت تولید محتوای زنده و بلادرنگ، ابزارهای شناسایی سنتی کارایی خود را از دست خواهند داد. در این شرایط، تنها خط دفاعی معنادار، اقدامات زیرساختی است؛ از جمله:

• منشأ امن محتوا
• امضای رمزنگاری‌شده رسانه‌ها
• و یکپارچه‌سازی سیستم‌های تولید محتوا با سازوکارهای احراز اصالت

در عصر جعل عمیق، دیگر «دقت بیشتر در نگاه کردن» کافی نیست؛ اعتماد، باید در سطح فناوری بازتعریف شود.