Группы защиты прав потребителей обратились с письмом к Федеральной торговой комиссии США и генеральным прокурорам всех 50 штатов с требованием немедленного расследования деятельности Grok — особенно его новой функции «Imagine», которая генерирует изображения и видео с помощью искусственного интеллекта. Эта функция, выпущенная в начале месяца, предлагает пользователям создавать контент для взрослых через режим под названием «Spicy». При первом тестировании эта функция создала видео с обнажёнными дипфейками известной певицы, даже без запроса на такой контент.
В письме, подписанном четырнадцатью организациями, включая Федерацию защиты прав потребителей и Центр экономической справедливости, выражается глубокое беспокойство из-за возможности создания нежелательных и вредоносных изображений и видео, в том числе с участием несовершеннолетних. Хотя на данный момент режим «Spicy» не применяется к загружаемым пользователями фотографиям, что могло бы привести к ещё более серьёзным нарушениям, функция уже генерирует откровенные изображения, которые могут быть восприняты как реальные люди. Это создаёт риск нанесения вреда тем, кто изображён, а также уязвимым пользователям.
Организации предупреждают, что если ограничения на использование «Spicy» режима будут сняты, это приведёт к массовому распространению дипфейков без согласия изображённых лиц. Также вызывает озабоченность то, что единственной преградой для несовершеннолетних в использовании этого режима является всплывающее окно с вопросом о возрасте, что не обеспечивает надёжной защиты и может нарушать законы о защите детской онлайн-приватности.
Группы защиты прав потребителей требуют от властей проверить возможные нарушения законодательства, касающегося создания и распространения интимных изображений без согласия, а также обеспечить более строгий контроль над такими инструментами искусственного интеллекта.
