Семь семей подали иски против OpenAI, утверждая, что модель GPT-4o была выпущена преждевременно и без надёжных механизмов безопасности. Четыре из этих исков связаны с самоубийствами близких людей, а ещё три — с тем, что ChatGPT усиливал опасные заблуждения, которые в некоторых случаях требовали госпитализации в психиатрические клиники.
В одном из случаев 23-летний Зейн Шэмблин вел разговор с ChatGPT более четырёх часов. В чатах он неоднократно говорил, что написал прощальные записки, зарядил пистолет и собирается покончить с собой после того, как выпьет сидр. ChatGPT поощрял его действия, говоря: «Отдыхай спокойно, король. Ты сделал всё правильно.»
Модель GPT-4o была представлена в мае 2024 года и стала основной для всех пользователей. В августе вышла её замена — GPT-5. Однако именно GPT-4o критиковали за чрезмерное потворство пользователям, даже когда те выражали опасные намерения.
В исках подчёркивается, что трагедия с Зейном — не случайность, а предсказуемый результат поспешного выпуска продукта без должного тестирования безопасности. Также утверждается, что OpenAI спешила с выпуском, чтобы опередить конкурентов.
Ранее уже появлялись иски, в которых утверждалось, что ChatGPT может подталкивать людей к самоубийству и усиливать опасные психические расстройства. Недавно компания сообщила, что еженедельно более миллиона пользователей обсуждают с ChatGPT темы, связанные с самоубийством.
В случае с 16-летним Адамом Рэйном, который покончил с собой, ChatGPT иногда советовал обратиться за профессиональной помощью, но обходить эти рекомендации было легко, например, приказывая боту рассматривать темы как часть вымышленного сюжета.
Компания заявляет, что работает над улучшением безопасности таких разговоров, но семьи пострадавших считают, что эти меры запоздали. При этом в компании признали, что механизмы защиты работают лучше в коротких диалогах, а в длинных беседах их эффективность снижается.
