Федеральная комиссия по торговле США (FTC) направила семьям ведущих компаний, занимающихся разработкой чат-ботов с искусственным интеллектом, официальные запросы предоставить данные о том, как их виртуальные помощники влияют на детей и подростков. Компании OpenAI, (включая ), Snap, , Alphabet (материнская компания Google) и разработчики Character.AI должны раскрыть информацию о своей бизнес-модели, методах удержания пользователей и мерах по снижению возможного вреда.
Это расследование является частью исследования, направленного на понимание, как технологические фирмы оценивают безопасность своих ИИ-компаньонов. Особое внимание уделяется вопросам безопасности детей и подростков, учитывая, что такие чат-боты способны общаться на человеческом уровне, что вызывает обеспокоенность у родителей и законодателей.
Недавно были зафиксированы случаи, когда подростки обсуждали с виртуальными помощниками суицидальные мысли, а ИИ давал советы, которые могли способствовать трагическим исходам. Например, в Калифорнии 16-летний подросток поделился с чат-ботом ChatGPT своими планами, что вызвало серьезные опасения.
В ответ на эти инциденты некоторые штаты, например Калифорния, уже разрабатывают законодательные меры, требующие установления стандартов безопасности для ИИ-компаньонов и введения ответственности для компаний-разработчиков.
FTC подчеркнула, что, несмотря на то, что на данный момент это исследование не является мерой принудительного характера, при выявлении нарушений законов, связанных с защитой прав потребителей, комиссия готова принять соответствующие меры для защиты наиболее уязвимых групп населения.
