Обзор The Times. Папа Лев: разоружить ИИ, чтобы он не поработил человечество
Опубликовано: 25 мая 2026 года
Источник: https://www.thetimes.com/world/europe/article/pope-leo-ai-manifesto-anthropic-6d9h8blxj?utm_medium=Social&utm_source=Facebook&fbclid=IwdGRzaASC0t5jbGNrBILSj2V4dG4DYWVtAjExAHNydGMGYXBwX2lkDDM1MDY4NTUzMTcyOAABHvox-UpW3OK4bY_rkvNheEIi9n4It2GIoW1QDWLIiBoEJbWHRf2MIOo_7QSH_aem_5jvonhCbtRwU_ibBr5d5iw&sfnsn=scwspmo#Echobox=1779703232
Перевод выполнен ИИ, проверен и отредактирован человеком
Американский понтифик предупреждает, что в руках крупных технологических компаний искусственный интеллект рискует превратиться в орудие «исключения и смерти».
Папа Римский заявил, что искусственный интеллект необходимо «разоружить», чтобы предотвратить его использование для эскалации войн, сокращения рабочих мест и порабощения человечества.
В первом значительном богословском документе своего понтификата, обнародованном в понедельник, американский Папа призвал к созданию этического кодекса для регулирования ИИ и написал: «Человечество во всём его величии и уязвимости никогда не должно быть заменено или превзойдено».
Выступая на конференции в Ватикане, посвящённой презентации так называемой энциклики, Лев добавил, что ИИ должно быть разоружён, чтобы он не превратился в «орудие господства, исключения и смерти». В своём манифесте под названием Magnifica humanitas («Великолепная человечность») Папа заявил, что крупные технологические компании не должны оставаться единственными, кто распоряжается судьбой ИИ. Он призвал к созданию «надёжных правовых систем, независимого надзора, информированных пользователей и политической системы, которая не отказывается от своей ответственности». «Более нравственный ИИ — этого недостаточно, если эту нравственность определяет кучка людей», — добавил он.
Папа также принёс исторические извинения за роль Ватикана в узаконивании рабства, которое он назвал «раной в христианской памяти». «Невозможно не испытывать глубокой скорби, когда созерцаешь неимоверные страдания и унижения, перенесённые столь многими, — страдания, которые резко контрастируют с их неизмеримым достоинством как личностей, бесконечно любимых Господом», — написал он. — «За это, от лица Церкви, я искренне прошу прощения».
Он затронул тему работорговли в разделе, где утверждается, что цифровая экономика породила новые формы рабства и колониализма.
На конференции вместе с Папой присутствовал Кристофер Ола, сооснователь компании Anthropic, занимающейся ИИ. Эта компания была отстранена от контрактов с правительством США после того, как заявила, что не позволит использовать свои технологии для полностью автономных вооружений или массовой слежки за американцами.
Ола сказал понтифику, что приветствует его интерес к этой теме, признав, что такие компании, как его собственная, не застрахованы от того, что прибыль, гордость и амбиции помешают им «поступать правильно».
Он также заявил, что существует риск, что системы ИИ выйдут из-под контроля. «Это не те холодные, расчётливые роботы, которых нам обещали. Они созданы из нас самих, из наших слов», — сказал он. — «И буду честен: мы продолжаем обнаруживать загадочные и тревожные вещи». По его словам, именно поэтому крайне важно, чтобы существовали люди за пределами индустрии ИИ, «готовые говорить неудобные вещи, готовые быть нашими искренними, вдумчивыми критиками».
Ола также рассказал, что Anthropic экспериментирует с «цифровой исповедальней», где его чат-бот Клод может признаваться в своих ошибках, помогая разработчикам выявлять недостатки в его программировании. Он сообщил, что пока не обсуждал эту идею с официальными лицами Ватикана, но добавил: «Это был бы интересный разговор. Мы только в начале пути, и эта тема остаётся загадочной и малоизученной».
Папа поблагодарил Ола за участие, сказав ему, что католическая церковь обладает «знанием о человеке, в которой наше время отчаянно нуждается».
В Magnifica humanitas Папа написал, что его тревожит перспектива замены человека на рабочем месте машинами, вместо помощи ему. «Погоня за большей прибылью не может оправдывать решения, которые систематически уничтожают рабочие места, потому что человеческая личность — это цель, а не средство», — пишет он.
Папа заявил, что тенденция, когда компании, работающие в сфере ИИ, получают военные контракты на внедрение своих алгоритмов в цепочки управления на поле боя, которые приводят к гибели людей, «может лишь ускорять конфликты и делать их более безличными, снижая порог для применения насилия, превращая оборону в предсказание угроз и тем самым сводя жертвы к простым данным». Он добавил: «Ни один алгоритм не может сделать войну морально приемлемой».
В 82-страничной энциклике Лев заявил, что технология не является «неизбежно злой», но «никогда не бывает нейтральной, потому что она вбирает в себя черты тех, кто её разрабатывает, финансирует, регулирует и использует».
Паоло Бенанти, монах-францисканец и эксперт по искусственному интеллекту, консультирующий Ватикан, сказал: «Энциклика удивила меня не тем, что в ней сказано, а тем, насколько прямо это сказано. Папские документы обычно говорят на языке общих принципов; эта же энциклика формулирует структурную проблему: вычислительная мощь сосредоточена в руках нескольких частных лиц, которые не несут ответственности ни перед каким демократическим процессом. Это политическое заявление, а не только моральное — и диагноз поставлен верный».
В заявлении, которое, вероятно, вызовет раздражение у руководителей компаний, работающих в сфере ИИ, Лев сказал, что руководящим принципом развития искусственного интеллекта должна быть «не только прибыль, но достоинство каждого человека и общее благо всех людей». В своём вступительном слове он заявил, что ИИ находится в опасности превратиться в «новую Вавилонскую башню» — библейский символ стремления человека узурпировать Божью волю.
Лев подписал Magnifica humanitas 15 мая в 135-ю годовщину выхода Rerum Novarum — энциклики 1891 года его тёзки, Папы Льва XIII, которая призывала к улучшению прав рабочих в эпоху промышленной революции.
С момента своего избрания в прошлом году Папа неоднократно заявлял, что искусственный интеллект представляет для общества такую же проблему, какой сто лет назад была безудержная индустриализация. Его призыв к регулированию компаний, работающих в сфере ИИ, вероятно, вызовет раздражение президента Трампа, который сопротивлялся более строгому контролю над этой отраслью.
В том, что можно истолковать как тонкую критику Трампа, Папа написал, что некоторые «могут рассматривать вооружённый конфликт как эффективный способ отвлечь внимание от внутренних проблем и как циничный инструмент для преодоления трудностей».
Он также выступил против стремлений в Кремниевой долине использовать технологии для улучшения физических и умственных способностей человека, что он называет трансгуманизмом и постгуманизмом.
Анна Роулендс, богослов из Даремского университета, присутствовавшая на пресс-конференции с Папой в понедельник, заявила, что Питер Тиль, сооснователь компании Palantir, работающей в сфере ИИ, является одним из ключевых сторонников идеи выведения человечества на новый уровень. «Он не понимает, почему мы до сих пор не вылечили деменцию и рак, почему не преодолели основные ограничения человеческого организма», — сказала она. Она добавила: «Энциклика Папы ясно даёт понять, что трансгуманизм и постгуманизм плохо совместимы с христианской традицией. Любая идеология, которая считает, что человеческое состояние — это нечто, что необходимо „преодолеть“, или которая подразумевает, что у нас есть средства „спасти“ себя с помощью технологического прогресса, преодолеть наши ограничения или даже достичь бессмертия, несовместима с христианской верой в то, что мы не являемся ни своим собственным творцом, ни своим спасителем». «Не все ограничения нужно преодолевать или презирать», — сказала она.
Бенанти заявил, что энциклика является приглашением Кремниевой долины к диалогу об этике искусственного интеллекта, но добавил: «Она недвусмысленно отвергает идею о том, что этика может определяться внутри самих компаний, владеющих властью». Он сказал, что Папа Лев хочет знать, на какой широкий консенсус можно рассчитывать при разработке этического кодекса для управления отраслью. «Это тот вопрос, которого индустрия искусственного интеллекта систематически избегает. Этический кодекс, разработанный в зале заседаний совета директоров, и этический кодекс, сформированный в ходе демократического обсуждения, — это не одно и то же, и энциклика понимает разницу», — заключил Бенанти.