شنبه 23 خرداد 1405

محبوب ترین های امروز

اندرو یانگ: فرصت میلیارددلاری بعدی استارتاپ‌ها: پایین آوردن هزینه زندگیNomNak – پیدا کردن رستوران از دل تجربه‌ی آدم‌های مورداعتماداسپیس‌ایکس از مرز ۲ تریلیون دلار گذشتدوردش چت‌بات «Ask DoorDash» را معرفی کرد؛ سفارش غذا و خرید با متن و عکس
FOLLOW            
اپن‌ای‌آی: جعل دستور تهدیدی حل‌نشدنی برای نسل جدید مرورگرهاست

هشدار سازنده چت‌جی‌پی‌تی درباره مرورگرهای هوش مصنوعی

هشدار سازنده چت‌جی‌پی‌تی درباره مرورگرهای هوش مصنوعی

شرکت اپن‌ای‌آی هشدار داده است که مرورگرهای مجهز به هوش مصنوعی، به‌دلیل ماهیت عملکردشان، حتی با پیشرفته‌ترین لایه‌های امنیتی نیز همچنان در برابر حملات «جعل دستور» آسیب‌پذیر باقی می‌مانند.

به گزارش پیچینو به نقل از تک‌کرانچ، اپن‌ای‌آی در یک پست وبلاگی صراحتاً اعلام کرده است مرورگرهای AIـمحور ـ از جمله مرورگر هوش مصنوعی جدید این شرکت با نام Atlas ـ در برابر حملاتی موسوم به Prompt Injection مصون نیستند؛ حملاتی که می‌توانند باعث شوند دستیار هوشمند، دستوراتی مخفی و مخرب را از دل وب‌سایت‌ها، اسناد آنلاین یا حتی ایمیل‌ها دریافت و اجرا کند.
به گفته اپن‌ای‌آی، این نوع حملات از نظر ماهیت به کلاهبرداری و مهندسی اجتماعی شباهت دارند و «احتمالاً هرگز به‌طور کامل قابل ریشه‌کنی نخواهند بود». همین اعتراف، نگرانی‌های جدی درباره استفاده از مرورگرهای هوش مصنوعی در اینترنت باز ایجاد کرده است؛ فضایی که داده‌های غیرقابل اعتماد در آن فراوان‌اند.
اپن‌ای‌آی اعلام کرده برای کاهش ریسک، از چرخه‌های تست مداوم، شبیه‌سازی حملات و پاسخ‌دهی سریع استفاده می‌کند تا روش‌های جدید سوءاستفاده را پیش از به‌کارگیری واقعی شناسایی کند. با این حال، پژوهشگران امنیتی نشان داده‌اند حتی چند جمله ساده در یک سند آنلاین می‌تواند رفتار پایه مرورگر را تغییر دهد.
این نگرانی محدود به اپن‌ای‌آی نیست. شرکت‌هایی مانند Brave نیز هشدار داده‌اند که جعل دستور ـ به‌ویژه از نوع غیرمستقیم ـ یک چالش سیستماتیک برای همه مرورگرهای مبتنی بر هوش مصنوعی است.
همچنین مرکز ملی امنیت سایبری بریتانیا تأکید کرده این نوع حملات احتمالاً برای همیشه بخشی از اکوسیستم وب باقی خواهند ماند و تمرکز باید بر کاهش ریسک و پیامدها باشد، نه خیال حذف کامل تهدید.

تحلیل پیچینو:
مرورگرهای هوش مصنوعی در حال تبدیل شدن به «عامل فعال» در وب هستند، نه صرفاً ابزار نمایش محتوا. همین تغییر نقش، مرز میان داده و دستور را کمرنگ می‌کند.
اعتراف اپن‌ای‌آی نشان می‌دهد مشکل اصلی نه ضعف پیاده‌سازی، بلکه تناقض ذاتی میان اینترنت باز و عامل‌های هوشمندِ خودکار است. در آینده، امنیت مرورگرهای AI بیش از هر چیز به مدیریت سطح دسترسی، محدودسازی اختیارات و طراحی رفتاری محافظه‌کارانه وابسته خواهد بود؛ نه وعده مصونیت کامل.