Ранее в этом месяце было выявлено, что Google предоставлял вводящую в заблуждение и даже ложную информацию через свои ИИ-обзоры на некоторые медицинские запросы. В частности, в одном случае система рекомендовала пациентам с раком поджелудочной железы избегать продуктов с высоким содержанием жиров, что противоречит медицинским рекомендациям и может повысить риск смертности. В другом случае были представлены неверные данные о важных анализах функции печени, что могло привести к опасному заблуждению у больных серьёзными заболеваниями печени о состоянии их здоровья.
После выявления этих ошибок, Google отключил ИИ-обзоры для таких запросов, например, по нормальным показателям анализа крови на функцию печени. Компания пока не комментирует конкретное решение об удалении этих результатов. Это уже не первый случай, когда функция ИИ-обзоров вызывает споры: ранее пользователям советовали наносить клей на пиццу или есть камни, а также возникали судебные иски, связанные с этим сервисом.
Данная ситуация поднимает важные вопросы о безопасности и надёжности ИИ-инструментов в сфере медицины, особенно учитывая высокую ответственность за предоставляемую информацию.
