Более двух лет приложение ClothOff терроризирует молодых женщин в интернете — и остановить его оказалось невероятно сложно. Несмотря на то, что приложение удалили из двух крупнейших магазинов приложений и запретили на большинстве социальных платформ, оно по-прежнему доступно в интернете и через бот в Telegram. В октябре юридическая клиника при Йельской юридической школе подала иск с целью полного закрытия приложения, обязав владельцев удалить все изображения и прекратить деятельность. Но найти ответчиков оказалось непросто.
«Компания зарегистрирована на Британских Виргинских островах, — объясняет профессор Джон Лэнгфорд, один из ведущих адвокатов по делу, — но мы считаем, что управляют ей брат и сестра из Беларуси. Это может быть часть более крупной сети по всему миру».
Это горький урок на фоне недавнего всплеска непреднамеренной порнографии, созданной искусственным интеллектом, включая изображения несовершеннолетних. Материалы с сексуальным насилием над детьми — самый опасный с юридической точки зрения контент в интернете: их производство, распространение и хранение строго запрещены и регулярно проверяются на всех крупных облачных сервисах. Тем не менее, несмотря на жесткие законы, бороться с генераторами изображений, как ClothOff, очень сложно. Индивидуальных пользователей можно привлечь к ответственности, а вот платформы — почти нет, что оставляет жертв без реальных возможностей добиться справедливости в суде.
В иске, доступном в открытом доступе, описывается тревожная ситуация. Истец — анонимная ученица школы из Нью-Джерси, чьи фотографии в были изменены с помощью ClothOff. Ей было 14 лет, когда были сделаны оригинальные фото, поэтому изменённые версии классифицируются как изображения с насилием над детьми по закону. Однако местные власти отказались возбуждать уголовное дело, ссылаясь на сложности с получением доказательств с устройств подозреваемых.
«Ни школа, ни правоохранительные органы не выяснили, насколько широко распространялись эти материалы», — говорится в иске.
Дело движется медленно: иск подали в октябре, а с тех пор адвокаты пытаются вручить уведомления ответчикам — задача крайне сложная из-за глобального характера деятельности. После вручения уведомлений суд может потребовать явки ответчиков и вынести решение, но пока жертвам ClothOff это мало помогает.
Случай с Grok кажется проще для решения. xAI Илона Маска не скрывается, и существует финансовый стимул для выигрышных исков. Однако Grok — универсальный инструмент, что значительно усложняет привлечение платформы к ответственности.
Многие законы США уже запрещают дипфейк-порнографию, но для привлечения платформы к ответственности нужно доказать умысел причинения вреда, то есть что разработчики знали, что их инструмент будет использоваться для создания непреднамеренной порнографии. Без таких доказательств права на свободу слова обеспечивают значительную защиту.
«Материалы с насилием над детьми явно не защищены первой поправкой, — говорит Лэнгфорд. — Но если система универсальна и пользователи могут запрашивать любые данные, ситуация становится сложнее».
Самый простой путь — доказать, что xAI сознательно игнорировал проблему, что возможно после сообщений о том, что Маск поручил смягчить ограничения Grok. Но даже в этом случае дело будет сложным.
В странах с менее развитой защитой свободы слова, таких как Индонезия и Малайзия, уже заблокировали доступ к Grok, а в Великобритании начато расследование, которое может привести к аналогичным мерам. Европейская комиссия, Франция, Ирландия, Индия и Бразилия также предприняли предварительные шаги, тогда как в США официальных действий пока не последовало.
Как завершатся расследования — неизвестно, но поток таких изображений ставит перед регуляторами множество вопросов с потенциально серьезными последствиями.
«Если вы публикуете или распространяете материалы с насилием над детьми, вы нарушаете уголовное законодательство и можете быть привлечены к ответственности, — подчеркивает Лэнгфорд. — Вопрос в том, что знала платформа, что она сделала или не сделала и как реагирует сейчас».
