Папа Лев XIV вряд ли первым приходит на ум, когда речь заходит о сценариях апокалипсиса из-за искусственного интеллекта общего назначения (AGI). Однако в прошлом месяце исследователь AGI Джон-Кларк Левин оказался внутри Ватикана с миссией привлечь внимание папы к этим рискам.
За последний год Левин собрал вокруг себя группу из примерно тридцати ученых, исследователей и священников, которых он с юмором называет «Мстителями AI». Их цель — разработать стратегии, как заставить Ватикан серьезнее относиться к потенциальным угрозам AGI. Главная тревога Левина — что папа может слишком долго не осознавать серьезность рисков, связанных с этой технологией, которую активно развивают крупнейшие технологические компании мира.
Искусственный интеллект общего назначения — понятие спорное и неоднозначное. Оно обычно подразумевает AI, способный выполнять любые интеллектуальные задачи лучше или не хуже человека. Ожидаемые последствия могут быть как колоссальными научными и экономическими достижениями, так и серьезными социальными и геополитическими проблемами, вплоть до глобальных катастроф.
Ватикан, несмотря на свой небольшой размер и ограниченную экономическую и военную мощь, обладает огромным моральным и духовным влиянием на 1,4 миллиарда католиков и широкую сеть религиозных и культурных институтов по всему миру. Это влияние выходит далеко за пределы церкви и может сыграть важную роль в глобальном диалоге о рисках и возможностях AGI, особенно учитывая напряженность между крупными державами.
Папа Лев XIV, первый американский понтифик и человек с образованием в математике, проявляет заметный интерес к AI. Он активно говорит о рисках и потенциале технологии, рассматривая ее влияние на достоинство человека, справедливость и труд. Ватикан организует конференции и консультации на тему этики AI и, по некоторым данным, готовит энциклику, которая станет важным документом по вопросам искусственного интеллекта, подобно тому, как в свое время была подготовлена энциклика, посвященная промышленной революции.
Однако прямое признание AGI и его специфических рисков пока отсутствует. Левин пытается изменить это, добиваясь, чтобы Ватикан официально рассмотрел AGI как реальную и близкую перспективу, инициировал научные консультации и изучил последствия этой технологии. Он считает, что важно не ждать полной научной уверенности, а действовать заранее, чтобы минимизировать потенциальные угрозы.
Попасть в круги Ватикана и донести эту мысль — задача не из легких. Ватикан — уникальная структура с собственными правилами, и для эффективного диалога требуется умение сочетать знания о католической традиции и современных технологиях. Левин, обладающий опытом в области безопасности AI и связями в католических кругах, считает себя хорошо подготовленным для этой миссии.
Недавно у Левина появилась возможность передать письменно свои идеи непосредственно папе, но личной встречи не случилось из-за изменений в протоколе. Тем не менее, он не собирается останавливаться и надеется, что Ватикан займет активную позицию в вопросах AGI.
Опыт Левина показывает, что Ватикан может оказаться более открытым к обсуждению этих вопросов, чем многие ожидали, и что внутри церкви существует интерес к пониманию и анализу последствий искусственного интеллекта общего назначения.
Это история о том, как религиозная институция с многовековой историей стремится стать частью глобального диалога о будущем технологий, которые могут изменить мир.
