OpenAI запустила новое приложение для создания AI-видео Sora, которое позволяет пользователям создавать короткие видеоролики с AI-сгенерированными персонажами, включая собственные аватары и образы других людей с их согласием. Изначально компания выбрала политику, при которой правообладатели должны были сами отказаться от использования своих персонажей в приложении. Однако после появления множества спорных и провокационных видео с персонажами, например, нацистским Спанч Бобом или криминальным Пикачу, OpenAI решила пересмотреть эту политику. Генеральный директор компании Сэм Альтман отметил, что реакция пользователей и правообладателей оказалась более сложной, чем ожидалось. Многие хотят иметь больше контроля над тем, как их образы используются в приложении, особенно чтобы избежать появления оскорбительных или неприемлемых видео с их участием. В ответ на это OpenAI ввела дополнительные ограничения и функции, позволяющие пользователям задавать правила для использования своих аватаров, например, запрет на участие в политических комментариях или использование определённых слов. Также компания работает над улучшением видимости водяных знаков на видео, указывающих на их искусственное происхождение, чтобы бороться с дезинформацией. Несмотря на усилия по защите прав и этики, пользователи уже находят способы обхода ограничений, что вызывает опасения. OpenAI рассматривает этот опыт как важный этап в развитии технологий и общества, подчеркивая необходимость совместного продвижения технических возможностей и регулирования. Компания также активно развивает инфраструктуру для поддержки таких проектов и планирует дальнейшее сотрудничество с партнёрами для расширения возможностей AI-видео. В целом, запуск Sora выявил множество вызовов в области авторских прав, этики и контроля контента, которые OpenAI намерена решать по мере развития продукта.
