Кибербезопасность — это, прежде всего, игра разума, считает Ами Луттвак, главный технолог компании Wiz. С появлением новых технологий открываются и новые возможности для злоумышленников, и искусственный интеллект (ИИ) не стал исключением.
Сегодня компании стремятся внедрять ИИ в свои рабочие процессы — будь то автоматизированное программирование, интеграция ИИ-агентов или новые инструменты. Однако вместе с ростом скорости разработки увеличивается и площадь для потенциальных атак. ИИ помогает разработчикам быстрее выпускать код, но зачастую это сопровождается упрощениями и ошибками, которые становятся уязвимыми местами.
Wiz недавно провела тесты и выявила, что в приложениях, созданных с помощью автоматизированного программирования, часто встречаются ошибки в реализации системы аутентификации — механизма проверки личности пользователя. Это происходит потому, что такие инструменты выполняют только то, что им указали, и если не заложить в них безопасность на самом высоком уровне, она будет упрощенной.
Сегодня компании сталкиваются с дилеммой: либо быстро запускать продукты, рискуя безопасностью, либо медленнее, но надежно. При этом злоумышленники тоже используют ИИ и автоматизированное программирование, чтобы создавать атаки быстрее и эффективнее. Они применяют специальные команды, чтобы получить доступ к секретам, удалять файлы и проникать в системы.
Особую опасность представляют внутренние интеграции ИИ-инструментов, которые компании внедряют для повышения эффективности. Подобные интеграции могут стать точками входа для атак на цепочки поставок. Например, когда злоумышленники взламывают сторонний сервис с широким доступом к инфраструктуре компании, они получают возможность глубже проникать в корпоративные системы.
Недавний случай с компанией, продающей AI-чатботы для продаж и маркетинга, показал, как злоумышленники получили доступ к ключам и смогли выдавать себя за чатбота, чтобы собирать данные и перемещаться по системам клиентов. Подобные атаки создаются с использованием тех же автоматизированных инструментов программирования.
Хотя пока только около 1% крупных компаний полностью внедрили ИИ, атаки с его использованием уже происходят каждую неделю, затрагивая тысячи клиентов.
Кроме того, в августе был зафиксирован крупный инцидент в системе сборки JavaScript, когда злоумышленники заразили систему вредоносным ПО, которое обнаруживало инструменты ИИ разработчиков и использовало их для поиска ценных данных. В результате тысячи токенов и ключей были скомпрометированы, что открыло злоумышленникам доступ к приватным репозиториям.
Для компаний, разрабатывающих решения в области кибербезопасности, нынешнее время — период больших возможностей и вызовов. Wiz, основанная в 2020 году, расширила свои инструменты, чтобы успевать за быстрыми изменениями и использовать ИИ для защиты. В их арсенале теперь есть решения для обеспечения безопасности на всех этапах разработки и защиты во время работы приложений в облаке.
Важно понимать цели клиентов, чтобы создавать уникальные инструменты безопасности, которые действительно отвечают их потребностям.
Ами Луттвак подчеркивает: стартапам с самого начала нужно думать о безопасности и иметь ответственного за информационную безопасность, даже если в команде всего пять человек. Это поможет избежать больших проблем в будущем и быстрее подготовиться к работе с крупными компаниями.
Особое внимание стоит уделять архитектуре систем, чтобы данные клиентов оставались в их окружении и не передавались третьим сторонам.
Для тех, кто хочет создавать новые решения в эпоху ИИ, сейчас открыты широкие возможности: от защиты от фишинга и вредоносного ПО до автоматизации процессов безопасности. Появление новых угроз требует переосмысления всех аспектов кибербезопасности.
Игра открыта, и именно сейчас формируется будущее защиты в цифровом мире.
