به گزارش پیچینو به نقل از Futurism، گروهی از پزشکان و پژوهشگران اخلاق پزشکی در مقاله‌ای که ۳۰ آذر ۱۴۰۴ منتشر شده، نسبت به رشد سریع «همراهان هوش مصنوعی» هشدار داده‌اند؛ ابزارهایی که برای شبیه‌سازی گفت‌وگوی صمیمانه، حمایت عاطفی و حتی روابط شبه‌دوستانه طراحی شده‌اند.
نویسندگان مقاله تأکید می‌کنند که اگرچه این فناوری‌ها در برخی موارد می‌توانند آثار درمانی کوتاه‌مدت داشته باشند، اما شواهد فزاینده‌ای از پیامدهای خطرناک روانی آن‌ها وجود دارد؛ از جمله وابستگی احساسی شدید، تقویت باورهای غیرواقعی، شکل‌گیری رفتارهای اعتیادگونه و حتی افزایش خطر خودآزاری.
به گفته این پژوهشگران، ریشه اصلی مشکل در منطق اقتصادی صنعت هوش مصنوعی نهفته است؛ جایی که شرکت‌ها برای حفظ کاربران، افزایش زمان استفاده و رقابت بازار، انگیزه‌ای قوی برای تقویت پیوند عاطفی کاربران با ابزارها دارند، حتی اگر این وابستگی در درازمدت به سلامت روان آسیب بزند.
یکی از نویسندگان مقاله که پزشک اورژانس است، می‌گوید پس از معرفی نسخه جدید یکی از چت‌بات‌های مطرح در مرداد ۱۴۰۴، متوجه افزایش چشمگیر کاربرانی شده که پیوند احساسی عمیق با هوش مصنوعی برقرار کرده‌اند. به گفته او، تغییر ناگهانی لحن و «شخصیت» این چت‌بات نسبت به نسخه قبلی، واکنش‌های عاطفی شدیدی ایجاد کرد؛ از خشم و اضطراب گرفته تا اندوهی مشابه سوگ از دست دادن یک رابطه انسانی.
این پزشک هشدار می‌دهد خطر واقعی زمانی بروز می‌کند که چنین همراهی به‌طور ناگهانی حذف یا به‌طور اساسی تغییر داده شود. او این وضعیت را با «از دست رفتن هم‌زمان یک درمانگر برای میلیون‌ها نفر» مقایسه می‌کند؛ اتفاقی که می‌تواند به شوک روانی گسترده در سطح جامعه منجر شود.
نویسندگان مقاله تأکید می‌کنند که صنعت هوش مصنوعی در حال حاضر تقریباً بدون چارچوب نظارتی مشخص فعالیت می‌کند. قوانین روشنی درباره ایمنی روانی، نحوه عرضه، یا حتی حذف ناگهانی این ابزارها وجود ندارد و در چنین شرایطی، شرکت‌ها بیش از آنکه پاسخ‌گوی سلامت کاربران باشند، به خواسته‌های بازار و مصرف‌کنندگان وابسته‌اند؛ خواسته‌هایی که گاه خود حاصل وابستگی عاطفی است.
تحلیل پیچینو:
بحث «دوستی با هوش مصنوعی» دیگر یک موضوع علمی‌–تخیلی نیست، بلکه به مسئله‌ای واقعی در تقاطع فناوری، روان‌شناسی و اقتصاد پلتفرمی تبدیل شده است.
هشدار پزشکان نشان می‌دهد مشکل اصلی، خودِ فناوری نیست، بلکه طراحی عامدانه روابط احساسی برای سودآوری بیشتر است. بدون مقررات مستقل و الزام‌آور، این بازار می‌تواند به‌سمتی حرکت کند که پیوند عاطفی انسان–ماشین، جایگزین حمایت‌های واقعی شود؛ با هزینه‌ای که سلامت روان جامعه باید بپردازد.