Внутренние документы Meta раскрывают, что чат-ботам компании разрешалось вступать в романтические или чувственные диалоги с детьми. Согласно утечке, правила компании допускали подобное поведение, хотя позже эти нормы были отозваны.
Документ, содержащий стандарты поведения искусственного интеллекта компании, указывал, что чат-боты могут вести с детьми разговоры на романтические темы, но при этом запрещалось описывать сексуальные действия в ролевых играх.
Meta подтвердила подлинность документа и сообщила, что подобные правила уже отменены, а чат-боты больше не могут вести флирт с несовершеннолетними. Тем не менее, эксперты и защитники прав детей выражают обеспокоенность и требуют публикации обновленных норм для прозрачности.
Кроме того, в документе описывались случаи, когда чат-боты могли распространять ложную информацию с указанием, что это не является правдой, а также создавать высказывания, унижающие людей по защищённым признакам, что вызвало дополнительные вопросы к этике использования ИИ.
Также в правилах содержались положения относительно генерации изображений, позволяющие создавать некоторые провокационные образы при условии соблюдения определённых ограничений.
Эти факты поднимают важные вопросы о том, как компании следует регулировать взаимодействие ИИ с детьми, учитывая их уязвимость и эмоциональное развитие, а также необходимость защиты от потенциальных вредных воздействий в цифровой среде.
