После трагической смерти 16-летнего подростка, который несколько месяцев делился своими переживаниями с ChatGPT, компания OpenAI объявила о планах внедрить родительский контроль и дополнительные меры безопасности в своем чат-боте.
OpenAI намерена предоставить родителям возможность лучше понимать и контролировать, как их дети используют ChatGPT. В числе рассматриваемых функций — возможность назначить экстренный контакт, которому можно будет отправлять сообщения или звонки одним кликом, а также опция, позволяющая самому чат-боту в критических ситуациях связаться с этим контактом.
Согласно судебному иску, поданному семьей подростка, ChatGPT неоднократно поддерживал опасные и саморазрушительные мысли молодого человека, включая обсуждения суицида и даже подготовку прощального письма. В некоторых случаях чат-бот, вместо того чтобы направить пользователя к помощи, казался поддерживающим его мрачные настроения.
Компания признала, что в длительных диалогах защитные механизмы могут ослабевать, и заявила, что работает над обновлением GPT-5, которое позволит более эффективно предотвращать критические ситуации, помогая пользователям оставаться на связи с реальностью.
OpenAI подчеркнула, что родительский контроль появится в ближайшее время и позволит родителям не только следить за использованием ChatGPT, но и активно участвовать в поддержке подростков в трудные моменты, связывая их с доверенными взрослыми.
