Что произойдет, если программное обеспечение, которое все стремятся использовать, станет слишком рискованным для страхования? Крупные страховые компании в США, такие как AIG, Great American и WR Berkley, уже просят регуляторов разрешить исключать риски, связанные с ИИ, из корпоративных страховых полисов. Один из андеррайтеров описывает результаты ИИ как «черный ящик», понять который трудно.
Отрасль действительно обеспокоена. Например, ИИ от Google ошибочно обвинил солнечную компанию в юридических проблемах, что привело к судебному иску на $110 миллионов. В прошлом году авиакомпания Air Canada столкнулась с необходимостью выполнять скидку, которую придумал их чатбот. А мошенники с помощью цифрового клона одного из топ-менеджеров похитили $25 миллионов у известной инженерной фирмы Arup во время видеозвонка, который выглядел как настоящий.
Страховые компании пугает не один крупный иск, а системный риск — тысячи одновременных претензий, если широко используемая модель ИИ даст сбой. Как отметил один из руководителей Aon, страховщики справятся с убытком в $400 миллионов для одной компании, но не с аварией ИИ, которая вызовет 10 000 убытков одновременно.
