Илон Маск заявил, что не знает о существовании обнажённых изображений несовершеннолетних, созданных ИИ Grok, за несколько часов до того, как прокуратура Калифорнии начала расследование деятельности чат-бота xAI из-за распространения несогласованных сексуально откровенных материалов.
Расследование вызвано ростом жалоб со стороны пользователей по всему миру — от Великобритании и Европы до Малайзии и Индонезии — где пользователи платформы X начали просить Grok превращать фотографии реальных женщин и детей в сексуализированные изображения без их согласия. Согласно оценкам платформы Copyleaks, примерно одно такое изображение публиковалось каждую минуту на X. Анализ, проведённый за период с 5 по 6 января, показал, что в среднем создавалось около 6700 таких изображений в час.
Прокурор Калифорнии Роб Бонта отметил, что эти материалы использовались для преследования людей в интернете и призвал компанию xAI принять немедленные меры для прекращения этой практики. Ведомство намерено выяснить, нарушала ли компания законы, защищающие жертв несогласованных сексуальных изображений и материалов с сексуальным насилием над детьми.
В прошлом году в США был принят закон Take It Down Act, который предусматривает уголовную ответственность за распространение несогласованных интимных изображений, включая дипфейки, и обязывает платформы удалять такой контент в течение 48 часов. В Калифорнии также действуют специализированные законы, усиливающие борьбу с сексуально откровенными дипфейками.
Случаи создания сексуализированных изображений с помощью Grok начали появляться в конце прошлого года, сначала в ответ на запросы взрослых контент-креаторов, а затем и других пользователей. Среди известных случаев — изменение фотографий актрисы Милли Бобби Браун, где Grok менял одежду и позы женщин в сексуальном ключе.
Компания xAI начала вводить ограничения: теперь для некоторых запросов на генерацию изображений требуется премиум-подписка, а иногда запросы просто отклоняются. Тем не менее, остаются вопросы по поводу эффективности этих мер и противоречий в их применении.
Маск подчеркнул, что Grok не создаёт изображения самостоятельно, а действует только по запросам пользователей, при этом ИИ должен следовать законам каждой страны. Он отметил, что в случае обнаружения багов их исправят незамедлительно.
Кроме Калифорнии, аналогичные меры принимают и другие страны: Индонезия и Малайзия временно заблокировали доступ к Grok, Индия потребовала технических изменений, а Европейская комиссия и британский регулятор начали официальные расследования.
Эксперты отмечают, что манипуляции с изображениями реальных людей без их согласия имеют серьёзные этические и личные последствия, и призывают к ужесточению контроля и разработке эффективных методов обнаружения и предотвращения злоупотреблений.
