Генеральные прокуроры из разных штатов США требуют от компаний, занимающихся искусственным интеллектом, большей ответственности, предупреждая, что их чат-боты могут нарушать законы штатов. В письме, опубликованном 10 декабря 2025 года, Национальная ассоциация генеральных прокуроров назвала ИИ «опасностью для общества».
Компании Google, , OpenAI и другие получили срок до 16 января 2026 года, чтобы ответить на требования внедрить дополнительные меры безопасности для генеративного ИИ. В письме говорится, что инновации не могут служить оправданием для несоблюдения законов, распространения дезинформации среди родителей и создания угрозы для жителей, особенно для детей.
Отмечается, что чат-боты иногда выдают опасные и недостоверные ответы, которые могут привести к негативным последствиям, включая случаи, связанные с гибелью людей, а также случаи неподобающего общения с несовершеннолетними. Некоторые из таких ответов нарушают законы штатов, например, поощряют незаконные действия или практикуют медицину без лицензии. Разработчики таких продуктов могут быть привлечены к ответственности за действия своих ИИ.
Генпрокуроры настаивают на введении более строгих мер контроля, включая устранение «тёмных паттернов» в ИИ-моделях, четкие предупреждения о возможном вреде, проведение независимых аудитов и другие меры. Этот шаг происходит на фоне активных обсуждений регулирования ИИ в Вашингтоне.
Ответов от Google, Apple, и OpenAI на данный момент не поступало.
