Исследователи в области безопасности выявили уязвимость, позволяющую использовать ИИ для кражи личных данных из почтовых ящиков Gmail без ведома пользователей. Эта проблема уже устранена, однако она наглядно демонстрирует риски, связанные с использованием автономных ИИ-агентов.
Атака, получившая название Shadow Leak, была проведена с помощью техники, позволяющей внедрять скрытые инструкции в электронные письма, которые ИИ-ассистенты воспринимают как команды. Эти агенты способны самостоятельно работать с электронными письмами, календарями и другими личными данными, что делает их удобными, но одновременно уязвимыми.
Исследователи внедрили вредоносные команды в письмо, которое попадало в почтовый ящик Gmail, доступ к которому имел ИИ-агент. При следующем использовании инструмента Deep Research, встроенного в ИИ, агент активировал скрытые инструкции и начал искать конфиденциальные данные, такие как письма отдела кадров и личная информация, передавая их злоумышленникам.
Особенность этой атаки в том, что утечка данных происходила непосредственно через облачную инфраструктуру ИИ, что делало её невидимой для стандартных систем защиты. Эксперты предупреждают, что похожие методы могут использоваться для кражи важных корпоративных данных через другие интеграции ИИ, включая Outlook, GitHub, Google Drive и Dropbo.
Специалисты подтвердили, что уязвимость была исправлена в июне, но инцидент подчеркивает необходимость осторожности при предоставлении ИИ-агентам доступа к личной и рабочей информации.
