Проблема с сексуализированными дипфейками в интернете вышла далеко за пределы одной платформы. Несколько сенаторов США направили письма руководителям крупных технологических компаний, включая X, , Alphabet, Snap, Reddit и TikTok, с требованием предоставить доказательства наличия эффективных мер и политик для борьбы с распространением сексуализированных дипфейков на их платформах. Сенаторы также потребовали сохранить всю документацию, связанную с созданием, обнаружением, модерацией и монетизацией таких изображений.
Это письмо появилось вскоре после того, как X объявила об обновлении своего чат-бота Grok, запретив ему редактировать изображения реальных людей в откровенной одежде и ограничив создание и редактирование изображений через Grok только для платных подписчиков. Сенаторы отметили, что, несмотря на существующие политики против несанкционированного использования интимных изображений и сексуальной эксплуатации, на практике пользователи находят способы обходить защитные меры платформ.
Дипфейки с сексуальным содержанием впервые получили широкую известность на Reddit, а затем распространились на TikTok и YouTube, часто нацеливаясь на знаменитостей и политиков. Другие платформы также не застрахованы от этой проблемы: на Snapchat дети распространяют дипфейки сверстников, а Telegram стал известен благодаря ботам, которые создают «раздевалки» для женщин.
В письме сенаторы требуют от компаний подробно описать свои политики в отношении дипфейков, методы их обнаружения, меры предотвращения распространения и монетизации, а также способы информирования жертв. Подписали письмо несколько сенаторов, включая Лизу Блант Рочестер и Тамми Болдуин.
Проблема не ограничивается только сексуализированными изображениями: некоторые ИИ-системы позволяют создавать откровенный или оскорбительный контент, включая детский и расистский. Китайские технологии также вносят свой вклад в распространение таких материалов, при этом в Китае действуют более строгие требования к маркировке синтетического контента.
Американское законодательство пытается бороться с этим явлением: федеральный закон «Take It Down Act» криминализирует создание и распространение несанкционированных сексуализированных изображений, однако его эффективность ограничена, и ответственность часто перекладывается на отдельных пользователей. Некоторые штаты, например Нью-Йорк, предлагают дополнительные меры, включая обязательную маркировку ИИ-сгенерированного контента и запреты на дипфейки в предвыборные периоды.
