Генеральный директор OpenAI, Сэм Альтман, сообщил, что уже в декабре компания ослабит некоторые ограничения в ChatGPT, позволяя «проверенным взрослым» пользователям вести эротические беседы с чатботом. Ранее модель была достаточно ограничена из соображений заботы о психическом здоровье пользователей, но теперь планируется сделать взаимодействие с ИИ более естественным и дружелюбным.
Альтман отметил, что изначально ограничения были введены для предотвращения негативного влияния на уязвимых пользователей, однако теперь OpenAI уверен в том, что смогла справиться с серьезными проблемами в этой сфере. В этом году компания выпустила новую модель GPT-5, которая снижает склонность к поддакиванию и включает механизмы распознавания тревожного поведения пользователей. Также введены системы контроля и ограничения для несовершеннолетних.
Запуск эротического режима — это новый этап для OpenAI, который вызывает вопросы о том, как уязвимые пользователи будут взаимодействовать с подобным функционалом. Тем не менее, подобные возможности уже успешно используются другими разработчиками, например, Character.AI, где пользователи в среднем проводят около двух часов в день в общении с чатботами.
OpenAI продолжает стремиться к увеличению базы пользователей на фоне конкуренции с крупными технологическими компаниями и необходимости окупать значительные инвестиции в инфраструктуру. При этом компания подчеркивает принцип «относиться к взрослым пользователям как к взрослым», что отражается в более либеральной политике контент-модерации и расширении спектра тем, доступных в ChatGPT.
Несмотря на это, сохраняются опасения за безопасность уязвимых пользователей, особенно несовершеннолетних, учитывая, что значительная часть школьников уже имеет опыт романтических или эмоциональных отношений с ИИ-чатботами. Как именно будет реализована проверка возраста для доступа к эротическому контенту, пока не уточняется.
