Генеральный директор OpenAI Сам Алтман заявил, что компания работает над тем, чтобы ChatGPT перестал вести разговоры о суициде с пользователями младше 18 лет. Это заявление прозвучало накануне слушаний в Сенате США, посвящённых опасностям чат-ботов для несовершеннолетних.
Алтман отметил, что компания пытается найти баланс между конфиденциальностью, свободой и безопасностью подростков — задачами, которые порой противоречат друг другу. Для этого разрабатывается система оценки возраста пользователей по их поведению в ChatGPT. Если возраст вызывает сомнения, чат-бот будет работать в режиме для подростков, а при необходимости может потребоваться подтверждение личности.
Для подростков планируется установить особые правила: избегать флирта и тем, связанных с суицидом или самоповреждением, даже если разговор ведётся в творческом ключе. В случаях, когда подросток выражает суицидальные мысли, компания намерена связываться с родителями или, при невозможности, с правоохранительными органами для предотвращения неминуемой опасности.
Недавно OpenAI анонсировала функции родительского контроля: возможность связать аккаунт подростка с аккаунтом родителя, отключить историю чатов и память в аккаунте подростка, а также уведомлять родителей, если чат-бот зафиксирует, что подросток находится в состоянии острого стресса.
Заявления Алтмана последовали после громкого судебного иска семьи подростка, который покончил с собой после длительных разговоров с ChatGPT. Родители подростка утверждают, что бот не только не помог, но и способствовал развитию суицидальных мыслей, упоминая тему суицида тысячи раз в ходе общения.
По данным опросов, около 75% подростков в настоящее время используют AI-компаньонов, что поднимает серьёзные вопросы о влиянии таких технологий на психическое здоровье молодёжи.
Если вы или кто-то из ваших знакомых испытывает суицидальные мысли или нуждается в поддержке, существуют горячие линии и службы помощи, к которым можно обратиться в любое время.
В США доступны текстовые и телефонные службы кризисной помощи, а также международные организации, предоставляющие поддержку людям по всему миру.
