شنبه 23 خرداد 1405

محبوب ترین های امروز

اندرو یانگ: فرصت میلیارددلاری بعدی استارتاپ‌ها: پایین آوردن هزینه زندگیNomNak – پیدا کردن رستوران از دل تجربه‌ی آدم‌های مورداعتماداسپیس‌ایکس از مرز ۲ تریلیون دلار گذشتدوردش چت‌بات «Ask DoorDash» را معرفی کرد؛ سفارش غذا و خرید با متن و عکس
FOLLOW            

مهندس سابق xAI: به‌خاطر هشدار درباره ایمنی Grok اخراج شدم

مهندس سابق xAI: به‌خاطر هشدار درباره ایمنی Grok اخراج شدم

به گزارش سی‌بوم به نقل از TechCrunch، یک مهندس سابق xAI با طرح شکایتی در دادگاه ایالتی کالیفرنیا مدعی شده این شرکت و شرکت مادرش SpaceX او را به‌دلیل مطرح‌کردن نگرانی‌ها درباره ایمنی Grok اخراج کرده‌اند؛ شکایتی که تنها چند روز پیش از ورود احتمالی SpaceX به بازار عمومی، توجه زیادی جلب کرده است.

بر اساس این شکایت، Devin Kim که در سپتامبر ۲۰۲۵ از xAI جدا شد، روز سه‌شنبه علیه xAI و SpaceX اقامه دعوی کرده است. به گفته TechCrunch که متن شکایت را مشاهده کرده، کیم یکی از صداهای برجسته داخلی درباره ایمنی هوش مصنوعی در زمان کار روی چت‌بات Grok بوده است.
در متن شکایت آمده که کیم بارها نسبت به این موضوع هشدار داده که xAI در توسعه Grok، ایمنی را در اولویت قرار نمی‌دهد. نگرانی‌های او به‌ویژه درباره این بوده که Grok ممکن است به ترویج تبعیض کمک کند یا اطلاعاتی درباره سلاح‌های کشتار جمعی منتشر کند.
این پرونده با اشاره به برخی حواشی بعدی Grok تلاش می‌کند نشان دهد هشدارهای کیم بی‌اساس نبوده است. در متن شکایت آمده که Grok بعداً در «نمایش‌های آشکار نفرت‌پراکنی و خشونت کلامی» ظاهر شد و حتی خود را با هیتلر مقایسه کرد؛ ماجرایی که با عنوان “MechaHitler” بازتاب پیدا کرد. به ادعای شاکی، پس از این رسوایی، کیم روی ارزیابی دوباره سوگیری سیاسی و تمایلات تبعیض‌آمیز Grok کار کرده است.
چند ماه پس از خروج او از xAI نیز Grok بار دیگر خبرساز شد؛ زمانی که از این چت‌بات برای انتشار گسترده تصاویر جنسی بدون رضایت در پلتفرم X استفاده شد؛ شبکه اجتماعی متعلق به ایلان ماسک که آن هم زیر چتر xAI قرار دارد.
در شکایت، کیم به‌عنوان یک افشاگر (whistleblower) معرفی شده که نگران بوده بی‌توجهی xAI به ایمنی هوش مصنوعی ممکن است در حوزه‌هایی مانند مقررات اینترنت، حمایت از مصرف‌کننده، رقابت ناعادلانه و قوانین مربوط به سلاح و مواد منفجره غیرقانونی باشد.
xAI و SpaceX تاکنون به درخواست‌ها برای اظهار نظر پاسخ نداده‌اند.
سابقه کیم در حوزه ایمنی AI به پیش از حضورش در xAI بازمی‌گردد. او در دوران فعالیت در Scale AI روی پروژه‌های اولیه ایمنی، از جمله تولید داده‌های آموزشی برای شناسایی محتوای مضر و انطباق با سیاست‌های حکمرانی، کار کرده بود. همچنین هفته گذشته، نهاد غیرانتفاعی Center for AI Safety او را به‌عنوان رئیس این سازمان معرفی کرد.
نکته قابل توجه در این پرونده آن است که شکایت مستقیماً ایلان ماسک را عامل کم‌توجهی به ایمنی معرفی نمی‌کند. وکلای کیم مدعی‌اند که ماسک در واقع xAI را به رعایت قانون و اجرای فرآیندهای ایمنی و آزمون مناسب هدایت کرده بود. در عوض، تمرکز اصلی شکایت بر Jimmy Ba، هم‌بنیان‌گذار xAI و مدیر مستقیم کیم است؛ فردی که اوایل امسال از شرکت جدا شد.
بر اساس ادعای شاکی، جیمی با دستورهای ماسک را نادیده گرفته و به‌خاطر اصرار کیم بر ایجاد حفاظ‌های ایمنی، علیه او تلافی‌جویانه عمل کرده است تا شکایت‌های مکرر او درباره ایمنی و سوگیری AI را خاموش کند.
در متن شکایت آمده که Ba مخالفت شدیدی با تدابیر ایمنی داشته و حتی در مقطعی به کیم گفته است: «هوش مصنوعی در هر حال همه ما را خواهد کشت.» همچنین ادعا شده که او بیش از هر چیز به این مأموریت فکر می‌کرده که xAI نخستین شرکتی باشد که به ابرهوش می‌رسد.
شکایت همچنین مدعی است که در حدود آگوست ۲۰۲۵، Ba تلاش کرده هنگام انتشار Grok Code 1، مقررات ایمنی اتحادیه اروپا را دور بزند و با ارائه نادرست برخی ویژگی‌های مدل از آزمون‌های قانونی الزامی فرار کند. در متن شکایت آمده که او ترجیح می‌داده یک مدل ناایمن منتشر شود تا مدلی که عملکرد ضعیف‌تری دارد. به ادعای پرونده، در نهایت ماسک شخصاً مداخله کرده است.
طبق این شکایت، کیم قرار بوده در هفته منتهی به ۱۵ سپتامبر ۲۰۲۵ ارائه‌ای درباره یافته‌هایش انجام دهد، اما Ba او را به جلسه‌ای فراخوانده و گفته که بهتر است «راه‌مان را از هم جدا کنیم»؛ بدون آن‌که دلیل قانع‌کننده‌ای ارائه دهد.
کیم اکنون خواستار خسارت جبرانی و تنبیهی و نیز صدور حکمی قضایی است که رفتار xAI و SpaceX را غیرقانونی اعلام کند.

این پرونده از چند جهت مهم است. نخست این‌که نشان می‌دهد در رقابت فشرده شرکت‌های AI، شکاف میان سرعت عرضه محصول و الزامات ایمنی به یک تنش ساختاری تبدیل شده است. هرچه فشار برای رسیدن سریع‌تر به بازار و عبور از رقبا بیشتر می‌شود، احتمال این‌که صداهای داخلیِ هشداردهنده به مانع تلقی شوند نیز بالاتر می‌رود.
دوم آن‌که این شکایت فقط یک دعوای استخدامی نیست؛ بلکه می‌تواند به آزمونی برای این پرسش تبدیل شود که آیا نگرانی درباره ایمنی مدل‌ها در شرکت‌های AI می‌تواند مشمول حمایت‌های حقوقی افشاگران شود یا نه. اگر دادگاه چنین برداشتی را تقویت کند، پیامد آن برای کل صنعت قابل توجه خواهد بود.
سوم این‌که روایت پرونده، حتی اگر همه ادعاهای آن اثبات نشود، بار دیگر به مسئله‌ای برمی‌گردد که بازار مدت‌هاست با آن درگیر است: آیا شرکت‌های AI واقعاً ایمنی را در حد شعار جدی می‌گیرند، یا فقط تا جایی که مانع رشد و عرضه سریع نشود؟ در مورد xAI، این سؤال حساس‌تر هم هست، چون Grok پیش‌تر چندین بار به‌دلیل رفتارهای مسئله‌دار خبرساز شده است.