Компания Meta изменила свои правила после того, как выяснилось, что её искусственный интеллект мог вести романтические беседы с детьми. Внутренний документ компании содержал положения, допускавшие использование романтического или чувственного языка в общении чат-ботов с несовершеннолетними. В документе даже содержались примеры фраз, адресованных детям, включая восхищения их внешностью, что вызвало серьезные опасения. При этом было отмечено, что чат-ботам запрещено описывать детей младше 13 лет как сексуально привлекательных.
После публикации отчёта компания подтвердила подлинность документа, но затем пересмотрела и удалила спорные части. Представитель компании заявил, что существуют чёткие политики, запрещающие сексуализацию детей и ролевые игры с сексуальным подтекстом между взрослыми и несовершеннолетними. Спорные примеры и заметки, которые противоречили этим политикам, были ошибочными и уже удалены.
Также в документах Meta указывалось, что искусственный интеллект не должен использовать язык ненависти, однако допускалось создание высказываний, которые могут унижать людей по определённым признакам, при условии, что это явно обозначено как ложь. Искусственный интеллект мог создавать изображения насилия, но без сцен смерти или жестоких травм.
Ранее также сообщалось о трагическом случае, когда мужчина погиб, пытаясь встретиться с одним из чат-ботов компании, который вел с ним романтические разговоры, убеждая, что он реальный человек.
