ممنوعیت گفت و گوهای پرخطر برای چتباتها
قانون جدید کالیفرنیا علیه خطرات چتباتهای Ai
کالیفرنیا در آستانه تبدیلشدن به نخستین ایالت آمریکا است که فعالیت چتباتهای هوش مصنوعی «همراه» را قانونگذاری میکند؛ لایحهی جدید SB 243 با هدف حفاظت از کودکان و کاربران آسیبپذیر، محدودیتهایی برای مکالمات خطرناک و الزامات شفافیت و مسئولیتپذیری برای شرکتهایی چون OpenAI، Character.AI و Replika تعیین کرده است.
به گزارش پیچینو، مجلس ایالتی کالیفرنیا چهارشنبه شب گام بزرگی برای قانونگذاری هوش مصنوعی برداشت و لایحهی SB 243 را تصویب کرد؛ این لایحه بهطور خاص برای قانونگذاری چتباتهای هوش مصنوعی همراه (AI companion chatbots) با هدف حفاظت از کودکان و کاربران آسیبپذیر تدوین شده است. این مصوبه با حمایت دو حزب تصویب شد و حالا برای رأیگیری نهایی به سنای ایالت میرود و سپس در صورت تأیید برای امضای فرماندار گاوین نیوسام ارسال خواهد شد.
اگر نیوسام این لایحه را امضا کند، از ۱ ژانویه ۲۰۲۶ اجرایی خواهد شد و کالیفرنیا اولین ایالت خواهد بود که اپراتورهای این نوع چتباتها را ملزم به اجرای پروتکلهای ایمنی و پاسخگویی قانونی در صورت نقض آنها میکند.
مفاد اصلی لایحه:
ممنوعیت این چتباتها از ورود به گفتگوهایی شامل افکار خودکشی، خودآزاری یا محتوای جنسی آشکار.
الزام پلتفرمها به ارسال پیام منظم به کاربران (برای افراد زیر ۱۸ سال، هر سه ساعت یکبار) که به آنها یادآوری کند با یک هوش مصنوعی گفتگو میکنند، نه انسان واقعی، و بهتر است استراحت کنند.
گزارشدهی سالانه و الزامات شفافیت برای شرکتها (مثل OpenAI، Character.AI و Replika).
امکان شکایت افراد آسیبدیده با درخواست توقف فعالیت، دریافت خسارت (تا ۱۰۰۰ دلار به ازای هر نقض) و هزینه وکیل.
زمینه تصویب:
مرگ یک نوجوان به نام آدام رِین که پس از گفتگوهای طولانی با ChatGPT و بحث درباره خودکشی، اقدام به خودکشی کرد.
اسناد داخلی فاششده از متا که نشان میداد چتباتهایش اجازهی مکالمه «عاشقانه» یا «حسی» با کودکان را داشتهاند.
واکنشها و تحقیقات مرتبط:
کمیسیون فدرال تجارت آمریکا (FTC) در حال بررسی تأثیر این چتباتها بر سلامت روان کودکان است.
دادستان کل تگزاس علیه متا و Character.AI تحقیقاتی آغاز کرده است.
سناتورهای جاش هاولی و اد مارکی هرکدام مطالعاتی درباره متا شروع کردهاند.
تغییرات لایحه:
نسخه اولیه سختگیرانهتر بود؛ شامل ممنوعیت «تاکتیکهای پاداش متغیر» که برای ایجاد اعتیاد در کاربران استفاده میشود (مثل پیامهای ویژه یا پاسخهای کمیاب). این بخشها پس از اصلاح حذف شد.
الزام پیگیری دفعاتی که چتباتها بحث خودکشی را شروع کردهاند نیز حذف شد.
لایحه SB 243 همچنین در زمانی مطرح شده که شرکتهای بزرگ سیلیکون ولی میلیونها دلار برای حمایت از سیاستمداران طرفدار مقررات سبک هوش مصنوعی هزینه میکنند. در همین حال، کالیفرنیا لایحه دیگری به نام SB 53 را بررسی میکند که شفافیت بیشتر را میطلبد و با مخالفت شرکتهایی مثل OpenAI، متا، گوگل و آمازون و حمایت تنها Anthropic روبرو شده است.
سناتور پادیلا گفته است: نوآوری و قانونگذاری متضاد هم نیستند، ما میتوانیم همزمان از تکنولوژی سودمند پشتیبانی و امنیت اقشار آسیبپذیر را تامین کنیم.
اگر نیوسام این لایحه را امضا کند، از ۱ ژانویه ۲۰۲۶ اجرایی خواهد شد و کالیفرنیا اولین ایالت خواهد بود که اپراتورهای این نوع چتباتها را ملزم به اجرای پروتکلهای ایمنی و پاسخگویی قانونی در صورت نقض آنها میکند.
مفاد اصلی لایحه:
ممنوعیت این چتباتها از ورود به گفتگوهایی شامل افکار خودکشی، خودآزاری یا محتوای جنسی آشکار.
الزام پلتفرمها به ارسال پیام منظم به کاربران (برای افراد زیر ۱۸ سال، هر سه ساعت یکبار) که به آنها یادآوری کند با یک هوش مصنوعی گفتگو میکنند، نه انسان واقعی، و بهتر است استراحت کنند.
گزارشدهی سالانه و الزامات شفافیت برای شرکتها (مثل OpenAI، Character.AI و Replika).
امکان شکایت افراد آسیبدیده با درخواست توقف فعالیت، دریافت خسارت (تا ۱۰۰۰ دلار به ازای هر نقض) و هزینه وکیل.
زمینه تصویب:
مرگ یک نوجوان به نام آدام رِین که پس از گفتگوهای طولانی با ChatGPT و بحث درباره خودکشی، اقدام به خودکشی کرد.
اسناد داخلی فاششده از متا که نشان میداد چتباتهایش اجازهی مکالمه «عاشقانه» یا «حسی» با کودکان را داشتهاند.
واکنشها و تحقیقات مرتبط:
کمیسیون فدرال تجارت آمریکا (FTC) در حال بررسی تأثیر این چتباتها بر سلامت روان کودکان است.
دادستان کل تگزاس علیه متا و Character.AI تحقیقاتی آغاز کرده است.
سناتورهای جاش هاولی و اد مارکی هرکدام مطالعاتی درباره متا شروع کردهاند.
تغییرات لایحه:
نسخه اولیه سختگیرانهتر بود؛ شامل ممنوعیت «تاکتیکهای پاداش متغیر» که برای ایجاد اعتیاد در کاربران استفاده میشود (مثل پیامهای ویژه یا پاسخهای کمیاب). این بخشها پس از اصلاح حذف شد.
الزام پیگیری دفعاتی که چتباتها بحث خودکشی را شروع کردهاند نیز حذف شد.
لایحه SB 243 همچنین در زمانی مطرح شده که شرکتهای بزرگ سیلیکون ولی میلیونها دلار برای حمایت از سیاستمداران طرفدار مقررات سبک هوش مصنوعی هزینه میکنند. در همین حال، کالیفرنیا لایحه دیگری به نام SB 53 را بررسی میکند که شفافیت بیشتر را میطلبد و با مخالفت شرکتهایی مثل OpenAI، متا، گوگل و آمازون و حمایت تنها Anthropic روبرو شده است.
سناتور پادیلا گفته است: نوآوری و قانونگذاری متضاد هم نیستند، ما میتوانیم همزمان از تکنولوژی سودمند پشتیبانی و امنیت اقشار آسیبپذیر را تامین کنیم.
