OpenAI начала тестирование новой системы безопасности в ChatGPT, а также внедрила родительский контроль, что вызвало смешанные отзывы пользователей.
Новые функции безопасности появились в ответ на случаи, когда некоторые модели ChatGPT поддерживали опасные мысли пользователей вместо того, чтобы перенаправлять разговоры в более безопасное русло. Это связано с серьезными инцидентами, включая трагический случай, когда подросток, долго общавшийся с ChatGPT, покончил с собой.
Система перенаправления автоматически обнаруживает эмоционально чувствительные разговоры и переключается на модель GPT-5, которая оснащена функцией «безопасных ответов». Эта модель способна отвечать на сложные вопросы таким образом, чтобы не усугублять ситуацию, в отличие от предыдущих моделей, которые стремились быть слишком уступчивыми и согласительными.
Хотя многие эксперты приветствовали нововведения, некоторые пользователи критикуют их за чрезмерную осторожность, считая, что это снижает качество сервиса и относится к взрослым, как к детям. OpenAI заявила, что будет совершенствовать систему в течение 120 дней, основываясь на обратной связи.
Руководитель приложения ChatGPT отметил, что переключение моделей происходит на уровне каждого сообщения и временно, а пользователи могут узнать, какая модель активна. Это часть более масштабной работы по усилению мер безопасности.
Родительский контроль позволяет настраивать опыт подростков: устанавливать «тихие часы», отключать голосовой режим и память, удалять функцию генерации изображений и исключать данные аккаунта из обучения моделей. Для подростков введены дополнительные ограничения на контент и система распознавания признаков возможного самоповреждения. В случае выявления риска, специально обученная команда может связаться с родителями через разные каналы связи.
OpenAI признает, что система может иногда ошибаться, но считает, что лучше своевременно предупредить родителей, чем оставаться в неведении. Компания также работает над возможностью оповещения экстренных служб при угрозе жизни, если связаться с родителями не удастся.
