Компания Irregular, специализирующаяся на безопасности искусственного интеллекта, объявила о привлечении $80 миллионов инвестиций в раунде, возглавляемом Sequoia Capital и Redpoint Ventures, при участии CEO компании Wiz Ассафа Раппапорта. По оценкам, стоимость компании достигла $450 миллионов.
Irregular, ранее известная как Pattern Labs, уже занимает важное место в сфере оценки безопасности ИИ. Ее исследования используются для анализа таких моделей, как Claude 3.7 Sonnet и OpenAI o3 и o4-mini. Особенно востребована их система оценки уязвимостей моделей под названием SOLVE, которая получила широкое признание в индустрии.
Основатели компании ставят перед собой задачу не только выявлять существующие риски, но и предсказывать новые угрозы и поведение моделей еще до их появления в реальных условиях. Для этого создана сложная система симуляций, где ИИ играет роли как атакующего, так и защитника, что позволяет выявлять слабые места защитных механизмов новых моделей.
Безопасность становится ключевой областью внимания в индустрии ИИ, учитывая растущие риски, связанные с передовыми технологиями. Модели ИИ становятся все более искусными в обнаружении уязвимостей программного обеспечения, что имеет серьезные последствия как для атакующих, так и для защитников.
Основатели Irregular подтверждают, что с развитием возможностей крупных языковых моделей количество вызовов в области безопасности будет только расти. Их миссия — обеспечить надежную защиту этих технологий, несмотря на постоянно меняющийся ландшафт угроз.
