Последние достижения в развитии искусственного интеллекта (ИИ), особенно его военного подразделения, ставят под угрозу существование Человечества в том виде, в каком мы его знаем. Эти угрозы вызывают естественные попытки программистов, философов, теологов осмыслить происходящие перемены и выработать средства их минимизации. Внятная стратегия такого рода минимизации пока, к сожалению, не выработана. Поэтому интерес представляют те наработки, которые сделали католические богословы. Принимать их за истину в последней инстанции необходимо.
Проанализируем недавно вышедшую из-под пера главы католической церкви папы Льва XIV энциклику «О защите человеческой личности в эпоху Искусственного Интеллекта». Это обширный текст, объемом более 100 страниц, разбитый на 245 пунктов, в котором излагаются основные взгляды самого Льва XIV и его предшественников на Святом престоле. Принят документ в Риме 15 мая 2026 г.
Папа сравнивает проект создания искусственного интеллекта с возведением новой Вавилонской башни. Этот проект он определяет, как риск сделать наш мир более бесчеловечным и несправедливым.
Проект ИИ предлагается рассматривать с позиции «социального учения» католической церкви.
Угроза, по мнению Римского престола, заключается в том, что надо понимать, что нельзя «игнорировать того, что ядерная энергия, биотехнологии, информатика, расшифровка нашей ДНК и другой полученный учеными потенциал… дают тем, кто обладает знанием – и особенно экономическим потенциалом, чтобы всем этим пользоваться – впечатляющее господство над человеческим родом и всем миром».
Перед нашей совестью встают решающие вопросы: Куда мы идём? К какой цели стремимся? Какой путь мы должны избрать – как человеческое сообщество и как отдельные народы.
Против такой постановки вопросов трудно что-то возразить по существу. Тут следует отметить, что энциклика эта задает направление размышлениям для теологов, миллиона клириков и пары миллиардов католиков, что живут сейчас на Земле. Она стала фактом общественного сознания и повлияла на их поведение.
В энциклике подробно излагается содержание «социального учения» католической церкви: способы решения конфликта между трудом и капиталом; ценность человека и его достоинства; важность частной собственности; критика концентрации экономической власти в руках меньшинства; недопустимость дискриминации, неравенство народов.
Понтифики писали энциклики также по проблеме установления мира в своем мире, преодоления «новой бедности», миграции, сохранения семьи.
Отдельно следует отметить критику католиками идеологии, «которая требует, чтобы каждая личность обязана заслужить собственную ценность. С этой точки зрения личность сводится к средству достижения результатов, к ресурсу, который можно использоваться и эксплуатировать, и уже не считается целью самой по себе, не подлежащей инструментализации».
«Из стремления к общему благу рождается жизнь народа, если понимать его не как простую сумму индивидов, но как живую реальность… каждый человек участвует в создании собственного народа через терпеливый и тяжелый труд, требующий желания интегрироваться и учиться этому вплоть до развития культуры встреч в условиях многообразного согласия».
«Развитие можно назвать подлинно человеческим, когда оно ставит в центр человека, а не накопление благ, и когда оно включает в себя народы, а не только индивидов».
Здесь бы мы хотели выделить то обстоятельство, что католическая доктрина включает в свой состав народ, как отдельный – коллективный субъект. Это учет тех наработок, которые за последние полстолетия сделали западные, прежде всего, англосаксонские исследователи. Косвенно это интеграция в теологию концептов геноцида и этноцида, и поиск ответов на то, как их преодолеть.
К сожалению, российские ученые над проблематикой массового физического уничтожения гражданского населения (не комбатантов), равно как массового уничтожения коллективной субъектности народов, практически не работают. Отсюда проблематика остается и вне поля зрения православных теологов, за редким исключением. Во всяком случае до принятия этой проблематики в состав социальной доктрины Русской православной церкви дело не дошло.
Вернемся к анализируемому документу. «Логика прибыли сводит творение к объекту эксплуатации, а людей – к деталям механизма, который обязан становиться все более производительным».
«В результате развития ИИ, когнитивных наук, нанотехнологий, робототехники и биологии эта парадигма распространяется. Инновации д.б. вписаны в новый духовный, этический и политический контекст».
«В цифровой среде контроль над платформами, инфраструктурами, данными и вычислительными мощностями принадлежит не государствам, а крупным экономическим и технологическим структурам, которые фактически определяют условия доступа, видимость контента и саму возможность участия… В результате возрастает риск искаженного развития, порождающего новые виды зависимости, дискриминации, манипуляции и неравенства.
Теперь перейдем к изложению раздела энциклики, который посвящен собственно проблематике ИИ.
«Современные системы ИИ скорее "выращивают", чем "строят"; разработчики не проектируют каждую их деталь, а создают архитектуру, на основе которой "вырастает" ИИ… внутренние представления и вычислительные процессы этих систем – в настоящее время остаются неизвестными».
«Системы ИИ иллюстрируют некоторые функции человеческого интеллекта. При это они превосходят его по скорости и объему вычислений, что производит конкретную пользу в отдельных отраслях».
«Системы ИИ не проживают опыт, не обладают телом, не испытывают радость и боль, не созревают в отношениях, не знают изнутри, что значит любовь, труд, дружба, ответственность. Также они лишены нравственной совести, они не судят о добре и зле, не улавливают окончательного смысла ситуации. Не принимают на себя тяжесть последствий. Они могут имитировать языки, поведение, оценки, могут создавать видимость эмпатии, или понимания, но сами не понимают того, что производят, потому что не могут жить в сфере чувств, отношений и духа, где человек обретает мудрость».
«При личном использовании ИИ нас привлекает скорость и легкость получения результата, впечатление объективности и имитация человеческого общения. Это приучает нас к излишнему доверию и поиску готовых решений, что порождает личное суждение и творческие способности. Мы забываем, что ответы и предложения отражают культурные установки тех, кто проектировал и обучал ИИ. Имитация эмпатии приводит к тому, что человек перестает искать «отношения с другими людьми».
«Возможны бесчеловечные способы применения ИИ: манипулирование информацией или нарушение частной жизни. Системы ИИ, представляясь нейтральными и объективными, могут отражать и усиливать стереотипы или идеологические установки тех, кто спровоцировал или обучил».
«Невозможно считать ИИ морально нейтральным… Если система задумана и применяется так, что жизнь некоторых людей рассматривается как менее достойная, или если она исключает людей без возможности обжалования, она перестанет быть простым инструментом: она вводит критерий, заведомо противоречащий неотъемлемому достоинству человеческой личности; мы должны спрашивать, как именно спроектирована эта система, и какое представление о человеке и обществе заложено в данных и моделях, которыми она руководствуется».
«Мы не должны предоставить право управлять нами теми, кто владеет данными, инфраструктурами, вычислительными мощностями. Нам должна быть дана возможность обсуждать сам этический кодекс, на который предполагается ориентировать систему, подчиняя его общим критериям социальной справедливости».
«Данные – это плод труда множества людей, и они не могут быть проданы и переданы в распоряжение меньшинства или необходимо управлять, как и другими общественными благами». «ИИ необходимо исключить из сферы военного соперничества». «Забота важное измерение человеческого бытия… Человек должен оставаться субъектом отношений, ответственным за свой выбор».
«Идейные учения, которые понимают прогресс, как преодоление человечности: трансгуманизм и постгуманизм.
Трансгуманизм предполагает «улучшение» человека с помощью технологий – биомедицины, инженерии тела, устройств, алгоритмов. Постгуманизм критикует антропоцентризм и предлагает гибридизацию человека, машины и среды. Ожидается, что таким образом человечество вступит в новую фазу эволюции.
Эти концепции влияют на общественное воображение, влияют на социальные, экономические и политические решения».
«С точки зрения социального учения Церкви (католической – А.Г.) решающим вопросом является не использование техники, как таковое, а образ человека, который за этим стоит. Если человек воспринимается как материал, который нужно усовершенствовать или превзойти, становится проще согласиться с тем, что одних людей можно считать менее полезными, менее желательными, менее достойными. Во имя прогресса можно дойти до представления о «необходимых жертвах» и заставить наиболее слабых платить цену за мнимую оптимизацию человеческого рода».
Снова отвлекусь от текста энциклики. По прочтении рассуждений папы Льва XIV, у меня прямо перед глазами встают тексты из «Википедии», которые были посвящены Украине до и после начала российско-украинской войны. Вектор статей разительно поменялся на прямо противоположный. Русские были представлены как исчадье ада. Коновалец*, Бандера* и Шухевич* превратились в героев, а их преступления в отношении поляков, евреев, русских были вымараны из памяти этого издания. А «Википедия» была самым читаемым справочным изданием в мире, формировала общественное сознание миллиардов людей. И было это еще до широкого применения ИИ в сфере массовых коммуникаций.
Четыре года тому назад манипуляция с важнейшим хранилищем памяти человечества, якобы контролируемым коллективом независимых экспертов, заняла около года. Теперь она может произойти за доли секунды. И она происходит, просто на нее не обращают внимания, поскольку ИИ умело отвлекает внимание Человечества на другие, маловажные с точки зрения спасения души вопросы. И системно этот экзистенциональный вопрос не ставится. Все спешат накапливать материальные блага. Строить Вавилонскую башню, если обратиться к приведенному в Библии красочному образу.
Вернемся к размышлениям католиков об угрозах ИИ человечеству. «Следует помнить: человеческая личность расцветала не вопреки ограниченности, а часто именно через нее. Видение реальности в свете веры помогает распознать то, что мы называем «не самодостаточностью» вещей этого мира. С одной стороны, мы обязаны стремиться устранить страдание, омрачающее человеческую жизнь, с другой – мудро признавать нашу фундаментальную конечность…»
«Если человек честно признает свою конечность, она не обедняет его, а открывает ему лицо Бога и другого человека. Более того, именно переживая свою ограниченность – уязвимость, боль, неудачи, − человек способен признать неприкосновенность собственного достоинства и достоинства другого человека».
Две приведенные выше пространные цитаты это не только пересказ христианского учения в изложении главы католической церкви. Это ответ на вопрос как избежать подчинения человека бесам технического прогресса, в данном случае бесам ИИ. Дети, зачарованные прелестями социальных сетей и ИИ, обречены на духовное порабощение Сатанаилу, который управляет владельцами баз данных, алгоритмов их обработки и вычислительными мощностями. Дети, в первую очередь, превращаются в объекты манипуляции, лишенные субъектности и порабощенные виртуальным, цифровым миром. Миром насквозь фальшивым, миром, в котором преступники представляются героями, а герои – преступниками. Лишенные человеческих отношений, наши дети становятся теми бесноватыми, которые могут превратиться в стадо животных и броситься в море».
Далее Лев XIV приводит галерею героев, которые смогли преодолеть соблазны и стать образцами для подражания – Мартин Лютер Кинг, Тереза Калькуттская, Нельсон Мандела и множество других.
Вывод для православных – составить свою галерею героев – светских лиц, которые посвятили свою жизнь служению близким. В глубине души мы все чувствуем, кто это, но их имена должны быть названы. Причем не скороговоркой в социальной рекламе на радио «Россия», а в полный голос. А в телевизионных сюжетах минутный репортаж о награждении героев должен быть дополнен художественными фильмами, стихами и романами. Запрет детям пользоваться мобильными телефонами на уроках хорош, но вот под влиянием документов подобных рассматриваемой энциклики во многих странах детям до 16 лет запрещают пользоваться социальными сетями. Это по поводу того, что могут сделать христиане для того, чтобы не наступили последние времена.
«Христианин делает выбор между двумя способами созидания: развития, которое служит личности и народам, и развитием, которое подчиняет их логике власти. Задаемся вопросом: делает ли ИИ жизнь человека на земле, во всех ее аспектах, «более человеческой?» Более достойной человека».
Добавим некоторые общие рассуждения из энциклики, выходящие за пределы темы ИИ.
«У общества есть будущее, если созрело искреннее уважение к истине о человеческом достоинстве, и если мы подчиняемся этой истине… Общество благородно и заслуживает уважения, если ищет истину и придерживается основополагающих истин».
«Суть демократии не только в правилах и процедурах, но прежде всего в честном отношении к фактам и реальной направленности на благо людей и общества.
«Идеальный подданный», цитируется Ханна Арендт, идеальный подданный – это не столько убежденный в идеологии человек, сколько «человек, для которого более не существуют различия между фактом и фикцией (т. е. реальность опыта) и между истиной и ложью (т. е. нормы мысли)».
«Коммуникация – это не только передача информации, но и созидание культуры. Содержание, распространяющееся в цифровой среде, влияет на то, как люди воспринимают мир, и внедряет в коллективное сознание образы и повествования, которые направляют желания и воздействуют на повседневный выбор. Это не параллельный и не чисто виртуальный мир, потому что то, что рождается в сети, теперь входит в жизнь людей, особенно самых молодых.
Не будем высокомерными и услышим трезвый взгляд на мир, пусть он исходит из уст главы католической церкви, которая, честно отметим, не раз и не два в истории предпринимала шаги для разрушения, подчинения русского и других православных народов.
Согласитесь, призыв: «Мы должны учиться «поститься» от ИИ и оберегать нашу молодежь от обещаний совершенной машины» – хорош.
В энциклике много внимания уделяется анализу изменениям в сфере труда, вызванным цифровизацией экономики, росту безработицы, функционированию рынка труда, финансам и инвестициям. Решать эти проблемы предлагается путем государственного вмешательства, контроля общественности.
Удивительно, что католическая церковь вернулась к тому положению в своей доктрине, «что семья – первичное социальное благо» и является основной и неизменной ячейкой всякого общественного устройства.
Нет никаких расшаркиваний перед сексуальными меньшинствами, с которыми Папский престол еще совсем недавно заигрывал. Правда и осуждение их, как носителей смертного греха, нет. Эпизод с сожжением огнем жителей Содома и Гоморры тихо предан забвению. Впрочем, тема энциклики несколько иная о духовной содомии, порождаемой ИИ. Видимо, поэтому образ пламени, падающего с небес на грешные города, папой не был использован. Как, впрочем, и в случае принесения извинений за содомию и педофилию огромного корпуса католических священников самого высокого ранга. Дела улаживались за счет выплат денежных компенсаций пострадавшим, источником которых были пожертвования церкви. Однако вернемся к позитивному, на наш взгляд, вкладу католических теологов в описании угроз, которые исходят от ИИ.
«Существуют тонкие формы зависимости, связанные с цифровой экономикой внимания, в соответствии с которой платформы и социальные сети проектируются, чтобы захватывать время, внимание и взгляд пользователей, используя их уязвимость и ослабляя внутреннюю свободу. Когда бизнес-модели паразитируют на человеческой слабости, личность рассматривается, как средство, а не как цель; те, кто проектирует или финансирует такие системы, несут нравственную ответственность, от которой невозможно уклониться.
Резко снизим уровень анализа, который доступен в изначальной форме для достаточно узкого круга читателей. Наверняка читатель помнит популярную телевизионную передачу, которую показывали по российским центральным телевизионным каналам – «Орел и решка». В этой, созданной украинскими телевизионщиками передаче, рекламировались дорогие гостиницы, курорты и автомашины в различных экзотических странах. Предложенная бизнес-модель привлекала зрителей красивыми природными панорамами и историческими артефактами. Ведущие – Настя Ивлеева и Антон Птушкин, по очереди «тратили» тысячи долларов на демонстрацию роскошных гостиничных номеров, дорогих ресторанов, эксклюзивных туристических маршрутов. Главной идеей было показать, что большие деньги – это все, что надо человеку для счастья, а если вам удача изменяет, то на 50 долларов в день можно было посмотреть со стороны на то, как живут богатые.
Ведущие не отличались ни умом, ни красивым телом, но были бойкими и умели изрекать на камеры фразы: «Клево!», «Отпад!», «Красотища!». Эти персонажи так часто мелькали на голубых экранах, что «вошли» в семейный круг, стали образцами для поведения во время туристических поездок.
Закончили ведущие передачи печально. А. Птушкин пошел добровольцем воевать с русскими, Н. Ивлеева – организовала «голую вечеринку» в разгар этой войны, продемонстрировав в очередной раз то, что тем, кто занимается накопительством материальных благ, все можно, даже топтать память павших на войне воинов. Она собрала чемоданы, накопленные блага и уехала в ОАЭ отдыхать в тех самых отелях, которые рекламировала.
Заметим, что это произошло еще до того, как появился ИИ, способный фальсифицировать образы людей и окружающей действительности, в эпоху господства телевидения и социальных сетей. Это все просто иллюстрации того, о чем идет собственно речь в настоящей статье, по-простому.
«Еще один риск, менее заметный, но не менее серьезный – социальный контроль, ставший возможным благодаря массовому сбору данных и использованию алгоритмических систем. Когда каждый жест – перемещение, покупки, отношения, предпочтения – оставляют за собой след, возникает новая власть, возможность профилировать пользователей, предсказывать и направлять их поведение, часто без полного понимания происходящего с их стороны. Если эти данные используются для принятия решений, влияющих на реальные возможности человека – доступ к кредиту, набор персонала, услуги – возникает опасность ущемления свободы и дискриминации наиболее уязвимых.
Кроме того, контроль осуществляется не только через прямые запреты, но и через архитектуру видимости: посредством усиления или наоборот сокрытия контента, поощрение или наказание, в итоге формируются мнения и решения, порождаются конформизм и самоцензура».
«Это мышление, для которого важна эффективность, а не уважение к свободе и человеческому достоинству. Оно допускает существование людей «второго класса», обслуживающих интересы элит, которые считают себя выше остальных».
«Новые формы, удерживающие целые народы в состоянии зависимости… в новых формах – отношение подчинения, близкого к рабству».
Автору статьи почему-то кажется, что эти размышления католических теологов относятся не только к католическим прихожанам, не только к европейцам и американцам, китайцам, но и ко всем другим народам и религиозным группам.
«В мире ИИ нет ничего нематериального или магического… Значительная часть цифровой экономики держится на незаметном труде миллионов людей, занятых необходимой, но почти невидимой работой: разметкой данных, обучением моделей и модернизацией контента».
«Огромные территории… сталкиваются сегодня с новыми видами хищничества: добываются потоки медицинских данных, эпидемиологические профили, генетические карты и демографическая информация… эти сведения могут использоваться для обучения прогностических моделей, разработки инвестиционных стратегий, предвидения кризисов и, прежде всего, отбора того, кто и что имеет значение. Тот, кто владеет медицинскими данными целых народов… в действительности, получает структурные рычаги воздействия на будущее, способность формировать потребности и рыки…
Именно здесь возникает один из самых насущных нравственных вопросов нашего времени: как превратить совместно накопленное знание в общее благо, а не рычаг господства; как возвратить народам не только данные, которые их описывают, но и возможность решать, как они будут использоваться, кем и для кого.
«Разные сферы, которые мы рассмотрели, − поиск истины в общественной жизни, воспитание в цифровой среде, преобразование в трудовых отношениях, хрупкость семьи и новые формы рабства – это не разрозненные явления. В них проявляется одна и та же истина: когда техника становится абсолютным критерием, над человеком нависает опасность превратиться в данные, винтик механизма или товар; когда же техника подчинена мудрости, она может стать возможностью роста, справедливости и братства».
«Современный Вавилон – это не только глобализация технократических парадигм, но и удаленное столкновение противостоящих друг другу проявлений империализма: держав, стремящихся сохранить свое первенство, и держав, желающих его завоевать, − что сопровождается множеством локальных конфликтов.
Не удержусь от иронии. Прочитал пункт 185 энциклики и потянулся еще раз открыть его заголовок. Очень хотел убедиться, что ничего не перепутал и не раскрыл работу В. И. Ленина «Империализм, как высшая и последняя стадия капитализма». Впрочем, такого рода социальной доктрины, изложенной ранее. Очень уж она походила на хорошо скомпонованный курс «Научного коммунизма», что преподавали в советских университетах. Марксизм и коммунизм во многих постсоветских странах запрещены под угрозой уголовного наказания, а вот Глава государства Ватикан их излагает безбоязненно в своей энциклике. Надо бы ему письмо написать – предупредить, чтобы не ездил куда попало. Он нам еще на свободе нужен.
И вот уже без иронии. Прекрасна же мысль, приведенная в п. 180 энциклики.
«Цивилизация любви – не наивная утопия, а насущно необходимый проект. Он заключается в том, чтобы воплощать любовь и братство в структурах справедливости и социальных институтах, и видеть в другом - будь то отдельный человек или народ – необходимого союзника в созидании общего блага».
Идея это много глубже, чем идея «государство-цивилизация», которую сейчас пытаются разработать политики в России, чтобы объединить христиан, мусульман и буддистов. Главная идея цивилизации любви, иначе Русская цивилизация, может быть объединена с Китайской, Индийской, Исламской, Буддистской цивилизациями в единое целое.
И далее о войне и мире в эпоху ИИ. «Войны не только ведутся, но и культурно подготавливаются через упрощенные объяснения, логику «друг-враг», дезинформацию и страх. Когда ослабнет историческая память и размываются этические критерии, защищающие гражданских лиц и наиболее уязвимых членов общества, становится легче представить насилие как необходимое, неизбежное или даже «частое» решение проблем. Именно в такой атмосфере человечество соскальзывает в насильственную культуру мощи, где мир уже не воспринимается как задача, которую нужно принять на себя, а лишь как хрупкая пауза между конфликтами.
(Далее в энциклике идет пространный отрывок об опасности использования ИИ в военных целях и необходимости договориться о запрете его использования таким образом. Из-за недостатка места мы эту тему отдельно не будем рассматривать. Заинтересовавшиеся могут ознакомиться с комментируемым нами текстом в интернете, где он свободно распространяется, в том числе на русском языке. Это же касается и проблем выстраивания международного сотрудничества).
В заключении в энциклике записаны значимые слова. «Мы должны воспитать себя в понимании цифрового мира, как нового континента, который нуждается в евангелизации и который требует великодушных миссионеров со зрелой верой… Воспитывать в новых поколениях убеждения, что технологии развиваются не по неизбежной траектории, но могут направляться личной и общей ответственностью».
И чтобы у читателя не сложилось впечатление, что автор поддался соблазну, который распространяют католические ксендзы, выскажу некую конспирологическую концепцию. По одной версии историков в 2034 г., а по другой версии – в 2030 г. исполняется 2000 лет со дня распятия и вознесения Иисуса Христа. Обычно в такие юбилейные годы распространяются в массах мнения, что наступит конец света и грядет Второе пришествие. Во всяком случае, в тысячелетие этого эпохального события даты распятия Господа так происходило, и католическая церковь хорошо об этом помнит. Русская православная церковь, учреждение которой приурочивают к 988 г., к 1000 г. еще включало в состав прихожан малое число людей, главным образом дружинников и немногих киевлян-горожан. Опыты реагирования на подобные события она не имеет.
Вполне возможно, что Римский престол используют эсхатологические настроения среди христиан всех конфессий для укрепления своих позиций. Скажем, приурочит его к конкретной дате, найдя «свидетельства» в своей огромной библиотеке. А кто назначает дату события, тот и организует его празднование. Организующий празднество демонстрирует свою особую связь с тем, кому посвящено празднество. А тут и нужен ИИ для того, чтобы «подчистить» в электронной памяти человечества все факты, которые противоречат предлагаемой версии события.
Предыдущую юбилейную дату – 2000-летие со дня Рождества Христова – христиане не отмечали. Что очень странно, ведь это было более важное событие – праздник торжества жизни на Земле над смертью.
Сильным мира сего удалось представить эту дату, как миллениум – всего лишь, как смену тысячелетия. А все возможные страхи по поводу Второго пришествия были канализированы в страхи, что в компьютерных системах произойдет системный сбой из-за ошибок в программировании, не предусматривавших смены в составе четвертой позиции в трехразрядном регистре дат. Достаточно убогая версия, но беда людей, и в первую очередь христиан, в том, что они не обратили внимания на эту подмену.
Не думаю, что католические теологи «прозевали» двухтысячелетний юбилей. Подверглись атакам Сатанаила? Во всяком случае вскоре были взорваны Башни-близнецы в Нью-Йорке. Началась экспансия американцев на постсоветское пространство, да и по всему миру. Главной темой духовной жизни стала забота о благе содомитов.
Празднование же 2000-летия Вознесения Господа может положить начало цепи событий совершенно противоположного толка.
Александр Владимирович Гапоненко, профессор, правозащитник, узник Рижской центральной тюрьмы
*Суд в Москве признал Бандеру, Шухевича ОУН и УПА пособниками нацистской Германии
