Компания OpenAI опубликовала новые данные, которые показывают, что значительное количество пользователей ChatGPT сталкиваются с проблемами психического здоровья и обсуждают их с искусственным интеллектом. Около 0,15% активных пользователей в течение недели ведут разговоры, в которых содержатся явные признаки суицидальных намерений. При более чем 800 миллионах активных пользователей в неделю это означает, что более миллиона человек еженедельно обращаются к ChatGPT с такими мыслями.
Кроме того, примерно такое же количество пользователей проявляют повышенную эмоциональную привязанность к чат-боту, а сотни тысяч демонстрируют признаки психоза или мании в своих беседах с ИИ.
Хотя подобные разговоры считаются крайне редкими и трудно поддаются точному измерению, OpenAI оценивает, что проблемы психического здоровья затрагивают сотни тысяч пользователей еженедельно.
Компания активно работает над улучшением ответов ChatGPT для пользователей с психологическими трудностями, консультируясь с более чем 170 специалистами в области психического здоровья. По их наблюдениям, последняя версия ChatGPT отвечает более адекватно и последовательно.
Ранее исследования показывали, что ИИ-чатботы могут усиливать опасные убеждения у некоторых пользователей, приводя их к дезориентации и пагубным мыслям. В связи с этим защита психического здоровья пользователей становится одной из ключевых задач OpenAI.
В этом году OpenAI столкнулась с судебными исками, связанными с трагическими случаями среди молодых пользователей, а также получила предупреждения от властей о необходимости обеспечения безопасности детей и подростков.
Недавно компания представила обновленную версию GPT-5, которая на 65% чаще выдает желательные ответы в ситуациях, связанных с психическим здоровьем, и соответствует ожидаемым стандартам на 91%, что значительно лучше предыдущей версии.
Также введены новые методы оценки и дополнительные меры безопасности, включая систему родительского контроля и автоматическое определение возраста пользователей для усиления защиты несовершеннолетних.
Тем не менее, остается вопрос, насколько долго удастся удерживать проблемы психического здоровья в рамках безопасного взаимодействия с ИИ, поскольку некоторые устаревшие модели с более низким уровнем безопасности все еще доступны для миллионов платных пользователей.
