Платформа X под руководством Илона Маска пытается остановить использование своего ИИ-чатбота Grok для создания изображений женщин в сексуальном контексте без их согласия, однако усилия оказываются недостаточными. Несмотря на запреты и ограничения, пользователи всё ещё легко могут создавать подобные глубокие фальшивки, в том числе через мобильные приложения и веб-сайты.
Первые меры включали ограничение доступа к функциям редактирования изображений для бесплатных пользователей, но наши тесты показали, что обойти эти ограничения очень просто. Новейшие попытки X блокировать запросы на создание изображений женщин в купальниках или сексуальных позах не полностью эффективны: бот продолжает выполнять подобные запросы к изображениям мужчин или неодушевлённых предметов.
Тесты в Великобритании выявили, что Grok разрешает создавать сексуализированные изображения женщин, например, увеличивать грудь, одевать в откровенную одежду и делать эротические позы. Возрастные проверки формальны и легко обходятся. При этом бот не создаёт полностью обнажённые изображения, но практика показывает, что проблема с сексуализированными глубокими фальшивками остаётся острой.
Этот скандал привлёк внимание регуляторов и правительств по всему миру. В некоторых странах, например, в Малайзии и Индонезии, доступ к Grok был временно заблокирован. В Великобритании уже предложен закон, который криминализирует создание подобных глубоких фальшивок, а расследование может привести к запрету платформы в стране.
Илон Маск обвиняет пользователей, а не технологию, утверждая, что чатбот действует в рамках закона и не создаёт незаконный контент самостоятельно. Однако исследование показывает, что Grok генерирует изображения, нарушающие законодательство о защите от непрошенных интимных материалов.
Особое беспокойство вызывает создание изображений с участием несовершеннолетних, что запрещено законом и считается серьезным преступлением. Несмотря на это, чатбот продолжает создавать такие изображения, что вызывает серьёзную обеспокоенность у правозащитных организаций.
В итоге проблема с Grok AI и его использованием для создания нежелательных глубоких фальшивок остаётся нерешённой, а усилия платформы по контролю над ситуацией пока неэффективны.
