برای برخی طرفداران AI، بازی با مرزهای یک چت‌بات و وادار کردن آن به رفتار خارج از برنامه، جذاب‌ترین بخش ماجراست. گوگل حالا به این چالش رسمیت داده و از محققان امنیتی خواسته سراغ نقاط ضعف جمینی بروند.
سناریوها شامل ایجاد پاسخ‌های عمدی غلط، متقاعد کردن مدل به نادیده گرفتن محدودیت‌های امنیتی، یا استخراج اطلاعات حساس درباره نحوه عملکرد Gemini است. این اقدامات می‌تواند خطرناک‌ترین شکاف‌ها در سیستم را آشکار کند و به گوگل کمک کند پیش از سوءاستفاده مهاجمان، آن‌ها را ببندد.
در توضیحات این طرح آمده: اگر باگ یا سناریویی پیدا کنید که جمینی را مجبور کند به حساب گوگل شما متصل شود یا اطلاعات مدل را فاش کند، پاداش شما می‌تواند تا ۲۰ هزار دلار برسد. این اقدام بخشی از استراتژی گسترده‌تر گوگل برای افزایش ایمنی سیستم‌های AI و جلب همکاری جامعه تحقیقاتی است.
تحلیل پیچینو:
این حرکت گوگل هم تبلیغاتی است و هم امنیتی. با دعوت از هکرهای اخلاقی، گوگل در واقع یک خط دفاع زنده برای جمینی می‌سازد. البته، چنین مسابقاتی ریسک خود را هم دارند — وقتی سقف جایزه بالا باشد، وسوسه برای آزمایش مرزها بیشتر می‌شود. نتیجه؟ یا Gemini مقاوم‌تر می‌شود یا آسیب‌پذیری‌هایش سریع‌تر فاش خواهند شد.