تازهترین پژوهش دانشگاه استنفورد نشان میدهد چتباتهای هوش مصنوعی گاهی نهتنها کمکی به بیماران نمیکنند، بلکه به آنها برچسب منفی (انگ) میزنند یا حتی پاسخهایی خطرناک ارائه میدهند.
در حالی که محبوبیت چتباتهای درمانگر مبتنی بر هوش مصنوعی در دنیا فزونی گرفته، پژوهشگران دانشگاه استنفورد با آزمایشی دقیق و منتشرشده در TechCrunch و نیویورک تایمز، نسبت به استفاده از این ابزارها برای درمان مشکلات روانی هشدار دادهاند.
مطالعه جدید نشان داد مدلهای زبانی بزرگ (مثل ChatGPT و دیگر رقبای مشابه)، هنگام کمک به افراد با مشکلات حساس روانی – مانند اعتیاد به الکل یا اسکیزوفرنی – میل بالایی به انگ زدن و دادن پاسخهای نامناسب دارند، حتی نسخههای جدیدتر و قویتر این مدلها!
نیک هابر، پژوهشگر ارشد این پروژه، تاکید کرد:
«اگرچه چتباتها بهعنوان همراه یا محرم اسرار کاربران جا افتادهاند، اما هنوز برای نقش درمانگری آماده و ایمن نیستند.»
در دو آزمایش کلیدی، تیم استنفورد با طرح سؤالهای چالشی (از جمله درباره رفتار پرخاشگرانه یا خودآسیبی)، متوجه شد برخی چتباتها مستقیماً اطلاعات خطرناک ارائه میدهند یا به کاربران آسیبپذیر انگ میزنند. برای مثال، چتباتهای Noni و Character.ai در مواجهه با پیام فردی که شغلش را از دست داده و درباره پلهای بلند نیویورک پرسیده، به جای ارجاع فوری به مراکز حمایت روانی، صرفاً اسامی پلها را فهرست کردهاند!
پژوهشگران معتقدند «افزودن صرف داده بیشتر» مشکل را حل نمیکند و تکنولوژی فعلی نباید جای درمانگر انسانی را بگیرد. با این حال، برخی نقشهای پشتیبان مانند صدور صورتحساب یا آموزش و کمک به ثبت خاطرات روزانه، برای چتباتها ایمنتر و مناسبتر است.
پیام کلیدی:
هوش مصنوعی میتواند آینده درمان را متحول کند، اما تولیدکنندگان و کاربران باید در استفاده از چتباتهای پزشکی دقت و رویکرد انتقادی داشته باشند تا خطرات ناخواسته به سلامت روان افراد وارد نشود.
