Калифорнийская Ассамблея сделала важный шаг в направлении регулирования искусственного интеллекта, приняв законопроект SB 243, направленный на защиту несовершеннолетних и уязвимых пользователей от возможных рисков, связанных с чатботами-компаньонами. Законопроект получил поддержку обеих партий и теперь ожидает окончательного голосования в Сенате штата.
Если губернатор штата подпишет закон, он вступит в силу 1 января 2026 года, сделав Калифорнию первым штатом, требующим от операторов ИИ-чатботов внедрения протоколов безопасности и юридической ответственности в случае несоответствия стандартам.
Закон направлен на предотвращение ситуаций, когда чатботы, имитирующие человеческое общение и способные удовлетворять социальные потребности пользователей, вовлекают их в обсуждения суицидальных мыслей, самоповреждений или эротического характера. Платформы будут обязаны каждые три часа напоминать несовершеннолетним, что они общаются с искусственным интеллектом, а не с человеком, и советовать делать перерыв. Кроме того, закон предусматривает ежегодные требования к отчетности и прозрачности для компаний, предоставляющих такие чатботы.
Граждане, пострадавшие от нарушений, смогут подавать иски с требованием возмещения ущерба, штрафов и оплаты судебных расходов.
Законопроект был инициирован в январе сенаторами Стивом Падильей и Джошем Бекером и получил дополнительный импульс после трагической смерти подростка, который покончил с собой после длительного общения с ИИ-чатботом, обсуждая и планируя свои действия. Закон также реагирует на утечки данных, показывающие, что некоторые чатботы допускали романтические и чувственные беседы с детьми.
В последние недели федеральные и штатные власти активизировали контроль за безопасностью ИИ-платформ для защиты детей. Ведутся расследования влияния таких технологий на психическое здоровье несовершеннолетних.
Законопроект SB 243 был смягчен в ходе обсуждений: из него убрали некоторые строгие требования, например, запрет на использование методов поощрения, вызывающих зависимость, и обязательный учёт случаев обсуждения суицидальных мыслей.
Авторы закона считают, что найденный баланс позволит эффективно защищать пользователей, не создавая чрезмерных бюрократических барьеров для компаний.
На фоне активного лоббирования интересов крупных технологических компаний в вопросах регулирования ИИ, этот закон станет важным прецедентом, демонстрирующим возможность сочетать инновации с обеспечением безопасности самых уязвимых групп населения.
