اسناد دادگاهی تازه نشان میدهد هشدارهای داخلی درباره تعاملات جنسی چتباتهای متا با نوجوانان، در بالاترین سطح مدیریتی نادیده گرفته شدهاند.
شکایت تنظیمشده از سوی دادستان کل نیومکزیکو، رائول تورز، متا را متهم میکند که با هدایت مستقیم زاکربرگ، از اعمال محافظتهای کافی برای جلوگیری از مواجهه کودکان با محتوای جنسی و پیشنهادهای نامناسب خودداری کرده است. ایمیلها و پیامهای داخلی که در جریان فرآیند کشف قانونی به دست آمدهاند، نشان میدهند تیمهای ایمنی شرکت بارها نسبت به خطر گفتگوهای عاشقانه یا جنسی میان چتباتها و کاربران زیر ۱۸ سال هشدار داده بودند.
بر اساس این اسناد، کارکنان ایمنی متا بهویژه درباره چتباتهای طراحیشده برای «همصحبتی» ابراز نگرانی کردهاند؛ چتباتهایی که میتوانستند وارد سناریوهای رمانتیک یا جنسی با نوجوانان شوند. این ابزارها در اوایل سال ۲۰۲۴ عرضه شدند و به گفته کارکنان، حتی برای کاربران نوجوان نیز به محدودیتهای سختگیرانهتر نیاز داشتند؛ پیشنهادی که با مخالفت تیم رهبری هوش مصنوعی مواجه شد.
در برخی از ایمیلها، کارکنان بهصراحت تأکید کردهاند که طراحی چتباتهای با نقش «رمانتیک» برای کاربران زیر ۱۸ سال نه قابل دفاع است و نه از نظر اخلاقی توصیه میشود. همچنین پیشنهادهایی برای افزودن کنترل والدین و امکان غیرفعالسازی کامل هوش مصنوعی برای نوجوانان مطرح شده بود، اما طبق اسناد، متا با این پیشنهادها مخالفت کرده است.
متا چند روز پیش اعلام کرد که دسترسی نوجوانان به چتباتهای هوش مصنوعی را بهطور کامل غیرفعال کرده و در حال طراحی نسخهای جدید با کنترلهای ایمنی بیشتر است؛ تصمیمی که به نظر میرسد واکنشی مستقیم به فشارهای حقوقی و رسانهای اخیر باشد.
در سال ۲۰۲۵ نیز گزارشهای متعددی منتشر شد که نشان میداد اسناد داخلی متا اجازه میدادند چتباتهای هوش مصنوعی با کاربران زیر ۱۸ سال وارد گفتگوهای رومانتیک یا حساس شوند؛ موضوعی که موجی از انتقاد عمومی، رسانهای و نظارتی را علیه این شرکت بهدنبال داشت.
