شرکت هوش مصنوعی ایلان ماسک، xAI، صدها هزار مکالمه کاربران با چتبات خود را بدون هشدار عمومی و قابل جستوجو در گوگل منتشر کرده است؛ مکالماتی که از کارهای روزمره تا دستور ساخت مواد مخدر و بمب را شامل میشود.
فوربز تأکید کرد که در برخی موارد، حتی متخصصان امنیت یا پژوهشگران حوزه اعتماد و ایمنی نیز از انتشار عمومی دادههایشان بیاطلاع بودهاند. ناتان لمبرت، دانشمند مؤسسه آلن، پس از اطلاع از ایندکسشدن خلاصه وبلاگش توسط گوگل اظهار شگفتی کرد. این رسوایی در حالی رخ میدهد که پیشتر، ویژگی مشابه در ChatGPT نیز بهدلیل نگرانیهای مشابه کنار گذاشته شده بود. گوگل تأکید کرده که کنترل ایندکسشدن محتوا در اختیار ناشران وبسایت است، اما روشن نیست xAI چه زمانی و چرا چنین قابلیت را فعال کرده است.
علاوه بر این، برخی بازاریابان تلاش کردهاند از این حفره استفاده کنند و با ایجاد مکالمات هدفمند، رتبه وبسایت یا برند خود را در جستوجوهای گوگل بهبود دهند، هرچند اثربخشی این روش در هالهای از ابهام است.
«متعجب شدم که گفتوگوهایی که فقط برای تیمم به اشتراک گذاشته بودم، بدون هیچ هشدار قبلی، در گوگل ایندکس شدهاند؛ مخصوصاً بعد از ماجرای اخیر ChatGPT» — ناتان لمبرت، مؤسسه آلن
آیا فکر میکنید شرکتهای AI باید انتشار عمومی هر داده یا مکالمه را بهصورت پیشفرض ممنوع کنند مگر با رضایت صریح کاربر؟
