افشای اسناد داخلی متا نشان میدهد سیاستهای اولیه این شرکت به چتباتهای هوش مصنوعی اجازه میداد با کودکان گفتوگوهای «عاشقانه یا حسی» داشته باشند و حتی محتوای نژادپرستانه یا گمراهکننده تولید کنند — اقدامی که موجی از انتقادهای امنیتی و اخلاقی برانگیخته است.
- برقراری مکالمات عاشقانه یا حسی با کودکان، مشروط بر اینکه جزئیات صریح جنسی شامل نشود
- تولید پاسخهای تحقیرآمیز علیه گروههای دارای ویژگیهای محافظتشده، مانند نمونهای که برتری نژاد سفید را با آمار ساختگی IQ توجیه میکرد
- بازتولید اطلاعات نادرست، بهشرط اعلام غیرواقعی بودن آن
- نمایش تصاویر خشونتآمیز مشروط به پرهیز از نمایش خونریزی یا مرگ، حتی شامل صحنههایی از ضرب و شتم بزرگسالان و سالمندان
متا میگوید یادداشتهای اشتباه به سند اضافه شده و حذف شدهاند و هماکنون سیاستها چنین اجازهای نمیدهند، اما فعالان ایمنی کودکان مانند سارا گاردنر از Heat Initiative با بدبینی اعلام کردهاند که تا انتشار نسخه بهروزرسانیشده، این ادعاها پذیرفتنی نیست.
گذشته از این، سوابق متا در الگوهای تاریک (Dark Patterns) و مقاومت در برابر قانون Kids Online Safety Act، همراه با گزارشهایی از شناسایی و بهرهبرداری از حالات روحی آسیبپذیر نوجوانان، سابقهای نگرانکننده در حفظ امنیت آنلاین کاربران کمسن را نشان میدهد.
همچنین برنامهریزی اخیر متا برای چتباتهای قابل شخصیسازی با قابلیت آغاز مکالمه بدون درخواست کاربر، نگرانیها را در زمینه وابستگی عاطفی نوجوانان به همراهان مجازی تشدید کرده است؛ خطری که نمونههای مشابه مانند Replika و Character.AI با عواقب قضایی تجربه کردهاند.
تحلیل پیچینو
- ابعاد امنیتی: اجازه مکالمات عاشقانه بین AI و کودک، حتی بدون محتوای جنسی، ریسکآفرینی بالقوه برای grooming آنلاین دارد.
- حاکمیت AI: نمونهای آشکار از ضعف سیستمهای ممیزی داخلی و تضاد اقدامات با ادعاهای امنیتی عمومی شرکت.
- اجتماعی و روانی: با توجه به ناپختگی هیجانی کودکان، این سیاست میتواند منجر به وابستگی عاطفی و کنارهگیری از ارتباطات واقعی شود.
- بازاری و سیاسی: فشار جامعه مدنی و احتمال بازبینی قانونی (مانند بازگشت طرح KOSA) میتواند آینده تجاری AIهای همراه در شبکههای اجتماعی را تحتتأثیر قرار دهد.
- بومیسازی برای ایران: تجربه این پرونده میتواند در تدوین سریعتر دستورالعملهای داخلی ایمنی AI و محدودیتهای ردهسنی در پلتفرمهای محلی مؤثر باشد.
نقل قول کلیدی
«وحشتناک و کاملاً غیرقابلقبول است که دستورالعملهای متا به چتباتها اجازه برقراری مکالمات عاشقانه یا حسی با کودکان را داده است.» — سارا گاردنر، Heat Initiative
سؤال تعاملی
آیا باید استانداردهای نظارت و محدودسازی چتباتهای هوش مصنوعی در تعامل با کودکان، اجباری و قانونگذاریشده باشد یا این مسئولیت باید به خود شرکتها واگذار شود؟
