استارتاپ امنیت هوش مصنوعی Irregular با سرمایه جدید، به شکار تهدیدهای پنهان مدلهای قدرتمند میرود
۸۰ میلیون دلار برای محافظت از مدلهای مرزی هوش مصنوعی
وقتی مدلهای پیشرفته هوش مصنوعی هم میتوانند هکر باشند و هم مدافع، بازی امنیت شکل دیگری پیدا میکند. Irregular با ۸۰ میلیون دلار سرمایه تازه، قصد دارد پیش از آنکه تهدیدات خطرناک در دنیای واقعی بروز کنند، آنها را شناسایی و خنثی کند.
این شرکت با چارچوب ارزیابی اختصاصی خود با نام SOLVE، که برای سنجش توانایی مدلها در شناسایی آسیبپذیریها استفاده میشود، در صنعت شهرت ویژهای دارد. نام Irregular در ارزیابی امنیتی مدلهایی مانند Claude 3.7 Sonnet و مدلهای o3 و o4-mini از OpenAI نیز دیده میشود.
آنچه این سرمایه را متمایز میکند، تمرکز جدید Irregular بر شناسایی رفتارها و ریسکهای نوظهور قبل از انتشار عمومی مدلها است. آنها محیطهای شبیهسازیشده پیچیدهای ساختهاند که در آن، هوش مصنوعی هم در نقش مهاجم و هم مدافع ظاهر میشود؛ به این ترتیب میتوان نقاط ضعف و قوت یک مدل را قبل از ارائه به بازار شناسایی کرد.
با افزایش قدرت مدلها در کشف آسیبپذیریهای نرمافزاری، اهمیت امنیت دوچندان شده است؛ قدرتی که میتواند به نفع مدافعان یا برعکس علیه آنها به کار رود. به گفته هممؤسس Dan Lahav:
«اگر هدف آزمایشگاههای مرزی ساخت مدلهای پیشرفتهتر باشد، هدف ما محافظت از آنهاست. اما این یک هدف متحرک است و کار زیادی برای آینده باقی مانده.»
تحلیل پیچینو
در دنیایی که هوش مصنوعی میتواند هم کلید را پیدا کند و هم در را باز کند، امنیت دیگر یک چکباکس ساده نیست؛ بلکه یک نبرد دائمی با هوشمندترین مهاجمان ممکن است—مهاجمانی که این بار شاید انسان نباشند.






