Google объявила о запуске новой программы вознаграждений, которая направлена на поиск уязвимостей в своих продуктах с искусственным интеллектом. Компания готова платить до $30,000 за выявление «непредвиденных действий» ИИ, которые могут представлять угрозу безопасности. В список таких уязвимостей входят случаи, когда злоумышленник может, например, заставить умный дом открыть дверь или получить доступ к личной информации пользователя.
Программа четко определяет, что считается багом в ИИ: это использование больших языковых моделей или генеративных систем для нанесения вреда или обхода защит. Особое внимание уделяется случаям, когда ИИ может изменить данные пользователя или выполнить нежелательные действия, нарушая безопасность.
За последние два года в рамках подобных инициатив исследователи уже получили свыше $430,000 за выявление угроз в ИИ-продуктах Google. Однако простое «галлюцинирование» ИИ не считается уязвимостью — вопросы, связанные с нежелательным контентом, например, разжиганием ненависти или нарушением авторских прав, рекомендуется сообщать через встроенные каналы обратной связи.
Помимо программы вознаграждений, Google представила ИИ-агента CodeMender, который помогает автоматизировать исправления безопасности в коде. Этот инструмент уже помог устранить 72 уязвимости в открытых проектах после проверки специалистами.
Максимальная сумма вознаграждения предоставляется за находки в ключевых продуктах Google, таких как Поиск, приложения Gemini и основные рабочие инструменты — Gmail и Drive. Размер выплаты может увеличиваться за высокое качество отчета и оригинальность находки. За уязвимости в менее популярных продуктах и за менее серьезные нарушения выплаты будут ниже.
