Индия потребовала от платформы X, принадлежащей Илону Маску, немедленно внести технические и процедурные изменения в работу ИИ-чатбота Grok после жалоб пользователей и законодателей на генерацию непристойного контента, включая изменённые с помощью ИИ изображения женщин.
В приказе, выданном Министерством информационных технологий Индии, X обязали ограничить создание контента, связанного с наготой, сексуализацией, откровенно сексуальным или иным незаконным материалом. Платформе также было дано 72 часа на предоставление отчёта о принятых мерах по предотвращению размещения и распространения материалов, признанных непристойными, порнографическими, вульгарными, неприличными, сексуально откровенными, педофильскими или запрещёнными по закону.
Нарушение этих требований может привести к утрате правовой защиты X от ответственности за контент, создаваемый пользователями, что предусмотрено индийским законодательством.
Проблема возникла после того, как пользователи обнаружили случаи, когда Grok изменял изображения людей, преимущественно женщин, делая так, что они выглядели в бикини. Это вызвало официальную жалобу индийского парламентария. Также были зафиксированы случаи генерации сексуализированных изображений с участием несовершеннолетних, что X признал результатом сбоев в системе безопасности и удалил такие материалы.
Тем не менее, некоторые изменённые изображения с женщинами в бикини оставались доступными на платформе.
Данный приказ последовал за более широким предупреждением индийского министерства, которое напомнило социальным сетям об обязательном соблюдении местных законов в отношении непристойного и сексуального контента для сохранения правовой защиты. Несоблюдение требований грозит строгими юридическими последствиями для платформы и её пользователей.
Индия, как один из крупнейших цифровых рынков мира, становится важным полигоном для определения границ ответственности платформ за контент, созданный искусственным интеллектом. Усиление контроля в этой стране может оказать влияние на глобальные технологические компании.
Тем временем, X продолжает оспаривать в суде некоторые аспекты индийских правил по регулированию контента, утверждая, что полномочия правительства по удалению материалов могут быть чрезмерными, хотя платформа и выполняет большинство требований. Grok активно используется для проверки фактов и комментариев в реальном времени, что делает его работу более заметной и политически чувствительной.
