Google приняла решение отключить модель искусственного интеллекта Gemma, доступную на платформе AI Studio, после того, как сенатор-републиканец обвинила её в создании ложных обвинений в серьёзном преступлении в её адрес. Модель Gemma изначально предназначалась для разработчиков и не должна была использоваться для получения фактических сведений обычными пользователями.
В компании отметили, что Gemma не была рассчитана на использование в качестве инструмента для ответов на фактические вопросы и поэтому доступ к ней на AI Studio был закрыт, однако она остаётся доступной для разработчиков через API. Сенатор Марша Блэкберн утверждала, что модель предоставила ложную информацию о ней, включая вымышленное обвинение в неподобающих отношениях с государственным служащим во время её избирательной кампании, сопровождавшееся ссылками на несуществующие новости.
Google подчеркнула, что продолжает работать над снижением количества ошибок и недостоверной информации, генерируемой ИИ, и стремится улучшать свои модели. Сенатор же настояла на полном прекращении работы модели до тех пор, пока компания не сможет обеспечить контроль и точность её работы.
Эта ситуация подчёркивает продолжающиеся сложности с достоверностью данных, создаваемых искусственным интеллектом, и важность ответственного использования подобных технологий.
