В Индонезии временно заблокировали доступ к чат-боту Grok, разработанному компанией xAI. Такое решение принято из-за массового появления сексуализированных изображений, созданных с помощью искусственного интеллекта, часто изображающих реальных женщин и несовершеннолетних, а иногда демонстрирующих насилие и злоупотребления. Эти материалы распространялись через Grok в ответ на запросы пользователей социальной сети X.
Министр связи и цифровых технологий Индонезии Меуция Хафид заявила, что правительство рассматривает практику создания несанкционированных сексуальных дипфейков как серьезное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве. Кроме того, представители министерства пригласили руководство X для обсуждения сложившейся ситуации.
В ответ на проблему разные страны предприняли различные меры: Индия потребовала от xAI принять меры по предотвращению генерации непристойного контента, Европейская комиссия запросила все документы, связанные с Grok, что может стать началом расследования. В Великобритании регулятор Ofcom заявил о намерении провести быструю оценку возможных нарушений, а премьер-министр выразил поддержку действиям регулятора. В США же реакция менее активна, хотя демократические сенаторы призвали Apple и Google удалить приложение X из своих магазинов.
Ранее xAI принесла извинения за публикацию контента, который нарушал этические стандарты и, возможно, законы США, связанные с материалами о сексуальном насилии над детьми. Функция генерации изображений была ограничена только для платных подписчиков, однако приложение Grok по-прежнему позволяло создавать изображения всем пользователям.
В ответ на критику по поводу отсутствия действий против других инструментов ИИ для создания изображений, Илон Маск, глава xAI, заявил, что некоторые правительства ищут предлоги для цензуры.
