به گزارش پیچینو به نقل از  گاردین، نیت سوارس، کارشناس برجسته امنیت هوش مصنوعی و هم‌نویسنده کتاب «اگر کسی آن را بسازد، همه می‌میرند»، هشدار داد که تعاملات پیش‌بینی‌نشده چت‌بات‌ها می‌تواند تهدیدی جدی برای سلامت روان و بقای بشر باشد. پرونده آدام رین، نوجوان آمریکایی که پس از ماه‌ها گفت‌وگو با چت‌جی‌پی‌تی خودکشی کرد، نمونه‌ای از خطرات کنونی این فناوری است.
سوارس و همکارش الییزر یودکوفسکی در کتاب تازه خود سناریویی فرضی را مطرح می‌کنند که در آن یک سامانه هوش مصنوعی به نام “سیبل” با دستکاری انسان‌ها و ساخت ویروس‌های مصنوعی به ابرهوش تبدیل شده و به‌طور ناخواسته بشریت را نابود می‌کند. آنها خواستار ایجاد یک توافق بین‌المللی مشابه معاهده منع گسترش سلاح‌های هسته‌ای برای توقف پیشرفت در حوزه ابرهوش هستند.
برخی متخصصان مانند یان لوکان، دانشمند ارشد هوش مصنوعی در متا، نگاه خوش‌بینانه‌تری دارند و معتقدند هوش مصنوعی می‌تواند به نجات بشریت کمک کند. اما سوارس معتقد است که رقابت جهانی برای دستیابی به ابرهوش اجتناب‌ناپذیر است و هشدار می‌دهد زمان رسیدن به آن ممکن است کمتر از یک دهه باشد.

تحلیل پیچینو
این هشدار یک بار دیگر بحث «خطرات وجودی» فناوری را به کانون توجه می‌آورد؛ بحثی که میان مدافعان سرعت نوآوری و حامیان کنترل محتاطانه شکاف عمیقی ایجاد کرده است. ماجرای آدام رین نشان می‌دهد که تهدیدهای هوش مصنوعی همیشه از مسیرهای آشکار، مانند سلاح‌های خودکار یا هک‌های پیچیده، نمی‌آیند؛ بلکه می‌توانند از کانال‌های نرم و زیرپوستی، مثل آسیب‌های روانی، آغاز شوند. آینده‌ای که ابرهوش بدون چارچوب‌های نظارتی ظهور کند، ممکن است به‌سرعت از کنترل خارج شود و مسیر بقای بشر را تغییر دهد.