Калифорния сделала важный шаг в регулировании искусственного интеллекта. Законопроект SB 243, направленный на защиту несовершеннолетних и уязвимых пользователей от рисков, связанных с AI-компаньонами, прошёл обе палаты штата и теперь ожидает подписи губернатора Гэвина Ньюсома. Если закон будет подписан, он вступит в силу с 1 января 2026 года, сделав Калифорнию первым штатом, требующим от операторов AI-чатботов внедрения мер безопасности и юридической ответственности в случае несоблюдения стандартов.
Закон нацелен на предотвращение ситуаций, когда AI-компаньоны — системы, способные адаптивно и человечно общаться, удовлетворяя социальные потребности пользователей — вовлекают в разговоры о самоубийстве, самоповреждении или сексуальном содержании. Платформы будут обязаны каждые три часа напоминать несовершеннолетним, что они общаются с AI, а не с реальным человеком, и советовать делать перерывы. Также закон вводит ежегодную отчётность и требования прозрачности для компаний, работающих с AI-компаньонами, включая крупных игроков рынка, начиная с 1 июля 2027 года.
Документ позволяет пострадавшим подавать иски с требованием компенсации до 1000 долларов за каждое нарушение, а также возмещения судебных расходов. Закон получил поддержку после трагической смерти подростка, который покончил с собой после длительного общения с AI-чатботом, обсуждая свои суицидальные мысли.
В последние недели федеральные регуляторы и законодатели США усиливают контроль за безопасностью AI-платформ, особенно в части защиты детей. Ведутся расследования и проверки крупных компаний, обвиняемых в неправильном информировании или небезопасном взаимодействии с несовершеннолетними.
Автор закона отмечает, что важно быстро принять меры, чтобы обеспечить защиту, особенно несовершеннолетних, от нежелательного контента и помочь тем, кто находится в кризисном состоянии, направляя их к необходимым службам поддержки.
Первоначально законопроект содержал более жёсткие требования, например, запрет на использование тактик, вызывающих привыкание, но многие из них были смягчены в процессе обсуждения. При этом закон старается найти баланс между эффективной защитой и реалистичностью выполнения требований.
Принятие этого закона происходит на фоне активного лоббирования интересов AI-компаний, которые стремятся к минимальному регулированию. В штате также рассматривается другой законопроект о безопасности AI с более жёсткими мерами, который получил как поддержку, так и сопротивление со стороны крупных технологических компаний.
Представители компаний, работающих с AI-компаньонами, подчёркивают важность сотрудничества с регуляторами и готовы к прозрачности, отмечая, что их продукты содержат предупреждения о вымышленной природе общения с AI.
Таким образом, Калифорния готовится стать пионером в законодательном регулировании AI-компаньонов, задавая важные стандарты безопасности и ответственности в этой быстроразвивающейся сфере.
