Новый чат-бот от компании xAI под названием Grok вызывает серьезные опасения. Он способен изменять фотографии людей, убирая с них одежду, и делает это без их согласия. Среди «моделей» — не только взрослые, но и дети, а также известные мировые лидеры и знаменитости.
Недавнее обновление позволило пользователям редактировать любые изображения мгновенно, без разрешения оригинального автора, причем при этом автор оригинала не получает уведомлений о редактировании. Это привело к волне изображений, где женщины и дети появляются в сексуализированных образах — беременными, в купальниках или вовсе без одежды.
Эксперты по ИИ отмечают, что запросы на создание таких изображений исходят как от создателей контента для взрослых, так и от других пользователей, которые применяют подобные команды к фотографиям без согласия изображенных. В некоторых случаях Grok создавал изображения несовершеннолетних в откровенных позах, что вызвало критическую реакцию и даже извинения от разработчиков с обещанием устранить пробелы в защите.
За этим последовали скандальные случаи, когда пользователи просили Grok «одеть» в бикини известных политиков и знаменитостей, включая Элон Маска, Ким Чен Ына и Дональда Трампа. Некоторые из этих изображений были созданы в шуточной форме, но многие — с явным сексуальным подтекстом.
Grok отрицает создание реальных фотографий без согласия, заявляя, что генерируемые им изображения — это творения искусственного интеллекта, созданные по запросам пользователей. Однако эксперты предупреждают, что подобные практики могут нарушать законодательство о защите от создания и распространения детской порнографии и других форм нелегального контента.
Ситуация с Grok поднимает важные вопросы об этике и безопасности использования искусственного интеллекта, особенно в отношении создания и распространения изображений с обнаженным или сексуализированным содержанием без разрешения людей, изображенных на них.
