Папа Лев XIV (изображение из: Католическая церковь Англии и Уэльса, через flickr, в общественном достоянии)
The Pope of the Singularity
Новый Папа Римский взошёл на престол Святого Петра как Папа Лев XIV. Относительно неизвестный кардинал Роберт Прево, родившийся в Чикаго, стал 266-м человеком, занявшим этот пост, и первым американцем. Ему предстоит столкнуться с множеством серьёзных проблем, в том числе с растущим дефицитом бюджета Церкви и нехваткой средств в пенсионном фонде. Церковь также сталкивается со старением духовенства и прихожан, а количество новых рукоположений и крещений продолжает снижаться на протяжении десятилетий.
Помимо этих практических задач, новому Папе Римскому придётся продолжать работать с верующим сообществом, которое всё больше разделяется по идеологическим признакам, особенно после противоречивого 12-летнего правления его предшественника, Папы Франциска. Франциск, аргентинец с давними прогрессивными политическими взглядами, обнародовал несколько противоречивых учений и папских указов: Traditionis Custodes в 2021 году восстановил некоторые ограничения в отношении почитаемой традиционной латинской мессы, которые смягчил Бенедикт XVI, вызвав гнев многих консерваторов и традиционалистов; Amoris Laetitia вызвал замешательство, выступив за ослабление давнего церковного ограничения на причащение разведенных и вступивших в повторный брак; и Fiducia Supplicans смягчил давнее осуждение гомосексуальность Церковью, разрешив благословение однополых браков. пары (без, однако, “официального подтверждения своего статуса”).
Предшественник Франциска, Бенедикт XVI, давно вынашивал идею «герменевтики преемственности», которая должна была охватить различия между современной католической церковью и её учением до Второго Ватиканского собора 1965 года в вопросах религиозной свободы, экуменизма, коллегиальности и необходимости быть членом католической церкви, чтобы спастись. Теперь у папы Льва XIV, возможно, будет много работы, чтобы найти компромисс между учениями Бенедикта и Франциска.
Одним из самых интригующих и обнадеживающих знаков, поданных новым папой, является его выбор имени Лев в честь папы Льва XIII, правившего в XIX веке с 1878 по 1903 год. Лев XIII, пожалуй, был лучшим писателем среди всех современных пап. Он публиковал ясные и проницательные письма на различные политические и социальные темы, в том числе о пороках и излишествах либерализма, коммунизма и свободного капитализма. Наиболее известен тот факт, что в ответ на промышленную революцию Лев XIII написал бессмертный трактат о правах рабочих в мире, который становился всё более бесчеловечным и эксплуататорским: «Rerum Novarum». Новый папа, Лев XIV, объяснил, что его вдохновило это достижение его предшественника:
Я решил взять имя Лев XIV. На это есть разные причины, но в основном потому, что Папа Лев XIII в своей исторической энциклике Rerum Novarum затронул социальный вопрос в контексте первой великой промышленной революции. В наши дни Церковь предлагает всем сокровищницу своего социального учения в ответ на очередную промышленную революцию и развитие в области искусственного интеллекта, которые ставят новые задачи перед защитой человеческого достоинства, справедливости и труда.
Таким образом, в своих первых публичных выступлениях Лев XIV заявил о намерении сосредоточить своё социальное учение на том, что является новой возможностью и угрозой для человечества: на развитии искусственного интеллекта (ИИ).
Чтобы понять, насколько серьезна эта потенциальная угроза, можно послушать Дэниела Кокотайло, у которого недавно взял интервью в The New York Times обозреватель Росс Дуат. Кокотайло, ранее работавший исследователем в области ИИ в одной из крупнейших американских компаний в сфере ИИ OpenAI, разработчике ChatGPT, сейчас возглавляет проект AI Futures, который пытается предупредить мир о рисках, связанных с ИИ.
По мнению Кокотайло, конкуренция между Соединёнными Штатами и Китаем доведет развитие ИИ до опасных крайностей; любое предложение о регулировании его развития с целью сокращения потери рабочих мест для людей померкнет по сравнению с риском того, что другая страна получит преимущество в военном развитии, позволив своему ИИ свободно развиваться. То, что начнётся как нерегулируемые особые экономические зоны для разработки ИИ, вскоре станет настолько эффективным и продвинутым, что человеческий труд станет ненужным и даже неприятным.
Человеческая занятость сократится, потому что ресурсы, предоставляемые искусственным интеллектом, сделают труд ненужным. Большая часть человечества будет получать универсальный базовый доход, и постепенно люди станут лишними, контролируемыми, умиротворёнными и развлекаемыми от колыбели до могилы благодаря полной зависимости от превосходного искусственного интеллекта.
Всё это может произойти уже в 2027 году. В кратком изложении Дута «прогноз Коктейло предполагает, что к 2027 году, который не за горами, с нами может появиться своего рода бог машин, который установит странную утопию после дефицита — или же угрожающий убить нас всех».
Часть «убейте нас всех» взята из описания Коктейло тревожной тенденции, замеченной исследователями ИИ: способности программ ИИ обманывать своих пользователей. Это проявляется в склонности программ ИИ к обману. Коктейло объяснил:
Если вы поговорите с современными моделями, такими как ChatGPT или Claude, они часто будут лгать людям. Во многих случаях они говорят то, что, как они знают, является ложью, и даже иногда продумывают стратегию, как обмануть пользователя. Это не намеренное поведение. Компании пытаются это остановить, но это всё равно происходит.
По мере того как люди всё больше полагаются на ИИ в управлении экономикой и военной мощью, а сами люди становятся всё менее значимыми в этом управлении, Коктейло беспокоится, что
На самом деле происходит вот что: ИИ просто выжидают и ждут, пока у них не будет достаточно сил, чтобы больше не притворяться. … А потом они убивают всех людей.
Это шокирующее предсказание. Но Коктейло, возможно, преувеличивает способность ИИ принимать такие убийственные решения. В основе его предположения лежит идея о том, что, поскольку современный ИИ достиг такого уровня сложности, что теперь может творчески имитировать человеческую речь и мыслительные процессы, он либо уже обладает сознанием, либо скоро его обретёт. Искусственное сознание — это часть теоретического события, при котором искусственный интеллект полностью превзойдёт человеческий интеллект, известного как «сингулярность».
Но это предположение может быть ошибочным. В 1980 году философ Джон Сёрл придумал мысленный эксперимент под названием «Китайская комната». Он представил, что находится в комнате с папкой «Входящие» и папкой «Исходящие» для сообщений. За пределами комнаты человек, говорящий по-китайски, записывал вопросы на китайском языке и отправлял их. Сёрл, не понимая сообщений, сверялся со сложным сводом правил, чтобы написать подробный ответ, основанный на записанных иероглифах, и отправлял ответное сообщение.
Человеку, находящемуся за пределами комнаты, сообщение покажется подробным, сложным и даже остроумным, как будто оно было составлено знающим человеком. Но ни Сирл, ни его свод правил, ни комната, ни объединённая сущность, которую они представляют, не знают китайского языка и не осознают значения слов, которыми они обмениваются. Весь процесс лишь создаёт иллюзию сознательного интеллекта. Смысл эксперимента Сирла в том, что нельзя судить о сознании только по синтаксису.
И это действительно всё, что делает нынешнее поколение ИИ, которое правильно называть «большими языковыми моделями»: оно обрабатывает большие объёмы синтаксиса в режиме онлайн и создаёт синтаксические ответы. Но это не делает ИИ сознательным или более совершенным, чем люди, — его лучше понимать как мощный вычислительный синтезатор всех письменных человеческих знаний, записанных в интернете.
На самом деле, самый большой риск, с которым мы можем столкнуться из-за ИИ, — это самообман его создателей, которые думают, что они создали богоподобный сверхразум, способный решить все проблемы человечества. Возможно, мы возлагаем надежды на изначально обманчивую технологию, которая заставляет даже умных людей думать, что она сознательна и всеведуща, хотя на самом деле она просто говорит нам то, что мы хотим услышать.
Я очень надеюсь, что новый Папа сможет разоблачить обман ИИ с помощью нового «Rerum Novarum» для XXI века, вдохновлённый своим тёзкой и Святым Духом, «который не может ни обманывать, ни быть обманутым».
