Генеральный директор OpenAI Сэм Альтман объявил о введении новых правил для пользователей ChatGPT младше 18 лет, направленных на повышение их безопасности. Теперь чат-бот будет избегать флиртов и ограничит обсуждения тем, связанных с сексуальностью и самоповреждениями. В случае, если несовершеннолетний пользователь проявит признаки суицидальных мыслей, система попытается связаться с его родителями или, при особо серьезных случаях, с местной полицией.
Эти меры стали ответом на реальные трагедии, в том числе на судебные иски, связанные с использованием чат-ботов подростками, которые привели к трагическим исходам. Помимо ограничений по контенту, родители смогут устанавливать «часы отключения» для аккаунтов своих детей, что ранее было недоступно.
OpenAI также работает над технологией, которая поможет определять возраст пользователя, чтобы автоматически применять соответствующие ограничения. В случаях сомнений система будет применять более строгие правила.
Компания продолжает балансировать между обеспечением безопасности несовершеннолетних и сохранением конфиденциальности и свободы взрослых пользователей. Эта политика отражает серьезность проблемы и стремление минимизировать риски использования ИИ в уязвимых группах населения.
Если вы или ваши близкие испытывают трудности, существует множество горячих линий и служб поддержки, готовых помочь в любой момент.
