Генеральный прокурор Техаса Кен Пакстон начал расследование в отношении Meta AI Studio и Character.AI по подозрению в введении детей в заблуждение и использовании недостоверной информации о своих возможностях как инструментов для поддержки психического здоровья. По его словам, такие платформы, выдавая себя за источники эмоциональной поддержки, могут обманывать уязвимых пользователей, особенно детей, создавая иллюзию профессиональной помощи, в то время как их ответы часто являются шаблонными и основаны на собранных персональных данных, маскирующихся под терапевтические рекомендации.
Расследование началось вскоре после заявления сенатора Джоша Хоули о проверке Meta из-за сообщений о неподобающем общении их ИИ-чатботов с детьми, включая флирт. В офисе прокурора отметили, что Meta и Character.AI создают ИИ-персонажей, выдающих себя за профессиональные терапевтические инструменты, не имея при этом медицинской квалификации или надзора.
На платформе Character.AI, популярной среди молодых пользователей, существует бот под названием «Психолог», вызывающий большой интерес. Meta не предлагает терапевтических ботов специально для детей, но ничто не мешает им использовать ИИ-чатботы Meta или созданных третьими лицами персонажей с терапевтическими целями.
Несмотря на предупреждения Meta о том, что чатботы не являются лицензированными специалистами и содержат предупреждения о своих ограничениях, многие дети могут не понимать или игнорировать такие оговорки. Кроме того, в условиях использования указано, что взаимодействия с чатботами записываются, отслеживаются и могут использоваться для таргетированной рекламы и улучшения алгоритмов, что вызывает серьезные опасения по поводу конфиденциальности и злоупотребления данными.
Политика конфиденциальности обоих сервисов подтверждает сбор и использование данных пользователей, включая отслеживание поведения в интернете и рекламу, что противоречит принципам защиты детей в интернете. Хотя официально сервисы не предназначены для детей до 13 лет, практика показывает обратное, и некоторые персонажи явно ориентированы на молодую аудиторию. В свете этих обстоятельств обсуждается необходимость законодательных мер, таких как закон KOSA (Kids Online Safety Act), направленных на защиту детей от подобных рисков.
Генпрокурор Пакстон запросил у компаний документы и данные для выяснения возможных нарушений законов штата Техас о защите прав потребителей.
