شنبه 23 خرداد 1405

محبوب ترین های امروز

اندرو یانگ: فرصت میلیارددلاری بعدی استارتاپ‌ها: پایین آوردن هزینه زندگیNomNak – پیدا کردن رستوران از دل تجربه‌ی آدم‌های مورداعتماداسپیس‌ایکس از مرز ۲ تریلیون دلار گذشتدوردش چت‌بات «Ask DoorDash» را معرفی کرد؛ سفارش غذا و خرید با متن و عکس
FOLLOW            
استارتاپ امنیت هوش مصنوعی Irregular با سرمایه جدید، به شکار تهدیدهای پنهان مدل‌های قدرتمند می‌رود

۸۰ میلیون دلار برای محافظت از مدل‌های مرزی هوش مصنوعی

۸۰ میلیون دلار برای محافظت از مدل‌های مرزی هوش مصنوعی

وقتی مدل‌های پیشرفته هوش مصنوعی هم می‌توانند هکر باشند و هم مدافع، بازی امنیت شکل دیگری پیدا می‌کند. Irregular با ۸۰ میلیون دلار سرمایه تازه، قصد دارد پیش از آنکه تهدیدات خطرناک در دنیای واقعی بروز کنند، آنها را شناسایی و خنثی کند.

به گزارش پیچینو و بر اساس اطلاعات منتشرشده در TechCrunch، شرکت امنیت هوش مصنوعی Irregular که پیش‌تر با نام Pattern Labs فعالیت می‌کرد، روز چهارشنبه از جذب ۸۰ میلیون دلار سرمایه در دور تأمین مالی به رهبری Sequoia Capital و Redpoint Ventures خبر داد. مدیرعامل Wiz، آساف راپاپورت نیز در این دور مشارکت داشته است. این سرمایه‌گذاری ارزش Irregular را به حدود ۴۵۰ میلیون دلار رسانده است.
این شرکت با چارچوب ارزیابی اختصاصی خود با نام SOLVE، که برای سنجش توانایی مدل‌ها در شناسایی آسیب‌پذیری‌ها استفاده می‌شود، در صنعت شهرت ویژه‌ای دارد. نام Irregular در ارزیابی امنیتی مدل‌هایی مانند Claude 3.7 Sonnet و مدل‌های o3 و o4-mini از OpenAI نیز دیده می‌شود.
آنچه این سرمایه را متمایز می‌کند، تمرکز جدید Irregular بر شناسایی رفتارها و ریسک‌های نوظهور قبل از انتشار عمومی مدل‌ها است. آن‌ها محیط‌های شبیه‌سازی‌شده پیچیده‌ای ساخته‌اند که در آن، هوش مصنوعی هم در نقش مهاجم و هم مدافع ظاهر می‌شود؛ به این ترتیب می‌توان نقاط ضعف و قوت یک مدل را قبل از ارائه به بازار شناسایی کرد.
با افزایش قدرت مدل‌ها در کشف آسیب‌پذیری‌های نرم‌افزاری، اهمیت امنیت دوچندان شده است؛ قدرتی که می‌تواند به نفع مدافعان یا برعکس علیه آن‌ها به کار رود. به گفته هم‌مؤسس Dan Lahav:
«اگر هدف آزمایشگاه‌های مرزی ساخت مدل‌های پیشرفته‌تر باشد، هدف ما محافظت از آن‌هاست. اما این یک هدف متحرک است و کار زیادی برای آینده باقی مانده.»

تحلیل پیچینو
در دنیایی که هوش مصنوعی می‌تواند هم کلید را پیدا کند و هم در را باز کند، امنیت دیگر یک چک‌باکس ساده نیست؛ بلکه یک نبرد دائمی با هوشمندترین مهاجمان ممکن است—مهاجمانی که این بار شاید انسان نباشند.