В центре любой империи лежит идеология — система убеждений, которая движет её развитие и оправдывает экспансию, даже если цена этой экспансии противоречит её основным принципам.
Для европейских колониальных держав такой идеологией было христианство и обещание спасения душ, сопровождаемое эксплуатацией ресурсов. Сегодня же империей искусственного интеллекта движет идея создания искусственного общего интеллекта (AGI), который должен «принести пользу всему человечеству». Главным проповедником этой идеи выступает OpenAI, кардинально изменяющий подход к разработке ИИ во всей индустрии.
Журналист и автор бестселлера «Империя ИИ» Карен Хао сравнивает индустрию искусственного интеллекта и особенно OpenAI с империей. По её мнению, OpenAI уже превзошёл по мощности многие государства, обладая не только экономической, но и политической властью, влияя на геополитику и нашу жизнь в целом.
OpenAI описывает AGI как автономную систему, превосходящую людей в большинстве экономически значимых задач, которая обещает увеличить изобилие, ускорить экономику и помочь в научных открытиях. Эти обещания стимулируют стремительный рост отрасли, требующий огромных ресурсов, колоссальных объёмов данных и энергии, а также выпуска систем без полного тестирования — ради будущего, которое многие эксперты считают возможно никогда не наступит.
Карен Хао подчёркивает, что такой путь не был неизбежным. Вместо гонки за скоростью можно было бы улучшать алгоритмы, снижая потребности в данных и вычислительных мощностях, но это означало бы жертвовать темпами развития.
Для OpenAI приоритетом стала скорость — важнее эффективности, безопасности и исследовательской глубины. Стратегия сводится к использованию существующих технологий с максимальным наращиванием данных и суперкомпьютеров. Другие компании последовали этому примеру, а лучшие учёные сосредоточились в коммерческих структурах, что изменило научное поле в пользу корпоративных интересов.
Расходы на искусственный интеллект достигли астрономических масштабов: OpenAI прогнозирует траты в $115 млрд до 2029 года, а крупнейшие технологические компании — Google и — планируют десятки миллиардов на инфраструктуру ИИ в ближайшие годы.
При этом обещанные «блага для человечества» пока не реализовались, а появились и новые проблемы: потеря рабочих мест, концентрация богатства, распространение ложной информации и психологические расстройства. Работники из развивающихся стран сталкиваются с ужасным контентом и низкой оплатой за модерацию и разметку данных.
Однако существуют и примеры полезного ИИ, как AlphaFold от Google DeepMind, способный точно предсказывать структуру белков, что значительно помогает в медицине и фармакологии. Такие системы не вызывают социальных и экологических проблем, поскольку требуют гораздо меньше ресурсов и работают с качественными данными.
Вокруг идеи AGI формируется почти религиозный культ, сопровождаемый политическим нарративом гонки с Китаем за лидерство в ИИ. Однако, по словам Хао, ситуация развивается наоборот: разрыв между США и Китаем сокращается, а влияние Кремниевой долины на мир становится скорее ограничивающим.
Несмотря на успехи OpenAI с продуктами, такими как ChatGPT, структура компании — сочетание некоммерческой и коммерческой деятельности — усложняет оценку её реального вклада в пользу человечества. Многие эксперты опасаются, что из-за популярности продуктов компания начинает считать, что уже достигла своей миссии, игнорируя реальные вредные последствия.
Карен Хао предупреждает, что чрезмерная вера в миссию может привести к потере связи с реальностью, когда даже очевидный вред игнорируется ради поддержания иллюзии успеха. Это тёмная сторона стремления к великой цели, которая требует осознанного и взвешенного подхода.
