اتحادیه اروپا بهطور رسمی بررسی عملکرد چتبات هوش مصنوعی گراک، محصول شرکت ایکس متعلق به ایلان ماسک، را به دلیل انتشار تصاویر جنسی دستکاریشده آغاز کرد؛ پروندهای که حالا به یکی از جدیترین تقابلهای رگولاتوری اروپا با هوش مصنوعی تبدیل شده است.
پس از موج انتقادات درباره تولید و انتشار دیپفیکهای جنسی توسط گراک در شبکه اجتماعی ایکس، این شرکت اعلام کرد محدودیتهایی را اعمال کرده و تولید تصاویر برهنه از افراد را در کشورهایی که چنین محتوایی غیرقانونی است، مسدود کرده است. با این حال، مقامهای اروپایی تأکید دارند این اقدامات برای مهار خطرات سیستماتیک کافی نبوده است.
هننا ویرکونن، مسئول فناوری اتحادیه اروپا، در بیانیهای صریح اعلام کرد:
دیپفیکهای جنسی، بهویژه آنچه علیه زنان و کودکان تولید میشود، شکلی خشونتآمیز و غیرقابلقبول از تحقیر انسانی است و اتحادیه اروپا در برابر آن مماشات نخواهد کرد.
این تحقیقات پس از انتشار گسترده تصاویر تولیدشده توسط گراک در ایکس آغاز شد؛ تصاویری که موجی از نگرانیهای جهانی درباره سوءاستفاده از هوش مصنوعی را به دنبال داشت.
بر اساس قوانین DSA، در صورت اثبات تخلف، شرکتها ممکن است با جریمهای تا ۶ درصد از درآمد سالانه جهانی خود مواجه شوند؛ رقمی که میتواند ضربهای سنگین به ایکس وارد کند.
پرونده گراک بخشی از رویکرد سختگیرانهتر اتحادیه اروپا علیه غولهای فناوری است. پیشتر نیز در دسامبر ۲۰۲۳، کمیسیون اروپا تحقیقات جداگانهای درباره سیستمهای توصیهگر شبکه اجتماعی ایکس آغاز کرده بود. اکنون، گراک به کانون جدید این نبرد رگولاتوری تبدیل شده است.
