Митрополит Калужский и Боровский Климент выступил на Международной научно-богословской конференции «Бог — человек — мир», сообщает сайт Московской Сретенской духовной семинарии. Направление: Образ Божий — сознание — искусственный интеллект.
«Сердечно приветствую всех участников конференции. Уже давно человечество мечтает переложить обслуживающий труд на плечи «умных» машин. Современная наука напряженно стремится к созданию искусственного интеллекта (ИИ). Кажется, еще немного усилий, и восторжествует человеческая гениальность: человек уподобится своему Творцу. Неужели создание самостоятельной разумной сущности — дело недалекого будущего?» - задается вопросом докладчик.
«Думаю, по многим причинам это не реально в просматриваемой перспективе, чтобы начинать серьезно относиться к угрозе со стороны ИИ в том отношении, как это прогнозируют фантасты и футурологи. Но уже сегодня перед человечеством встают проблемы, связанные с разработкой и внедрением технологий, имитирующих, а по скорости и объемам обработки информации — многократно превосходящих интеллектуальные способности человека. Остановлюсь на двух вопросах: свободе выбора и глобальном контроле со стороны информационных технологий», - продолжил он.
«Начну со свободы выбора. Как это ни странно, мы давно живем в эпоху, когда от решения запрограммированных устройств зависит сохранение мира на Земле. С 80-х годов прошлого столетия у нас и в США созданы военные системы гарантированного доведения приказов в условиях глобальной ядерной войны. Электронные машины уже более полувека отвечают за нанесение ответного удара на основании общего массива информации от разнообразных источников, в том числе от сейсмодатчиков. Именно созданные человеком алгоритмы анализа этих данных определяют тонкую грань между миром и войной на всей планете», - отметил митрополит.
Он подчеркнул, что в городах водители автотранспорта делегируют право выбора маршрута «навигатору» — программе, которая определяет оптимальное направление движения, обрабатывая актуальные данные о дорожной ситуации. «Пользуясь услугами современной авиации, мы и не предполагаем, что значительную часть полета (в том числе и самую сложную — посадку) выполняет автопилот по алгоритмам, заложенным в бортовую вычислительную машину. Современное сельское хозяйство строится на постоянном наблюдении за посевами на основании компьютерного анализа снимков полей. А первые беспилотные комбайны уже доказали свою экономическую эффективность на полях нашей страны. Вообще во всех без исключения отраслях экономики определяющим фактором эффективности является использование высокоточных автоматизированных систем и новейшего программного обеспечения. В будущем эта тенденция сохранится», - отметил докладчик.
«Таким образом, - подчеркнул он, - ИИ уже сегодня широко используется в народном хозяйстве. Заложенные в современные вычислительные машины алгоритмы позволяют сохранять мир (в глобальном смысле) и безопасность (на транспорте и в быту), не требуя от человека постоянного волеизъявления».
«Но сейчас ИИ имеет эту важную, но исключительно прикладную функцию, и до тех пор, пока он является лишь программой с заложенным человеком алгоритмом действий, опасности он не представляет. Современные ученые называют тот ИИ, с которым мы имеем дело "слабым искусственным интеллектом". Согласно свидетельствам практиков использования этих технологий, в ближайшем будущем, так называемый "сильный ИИ", когда машина сможет мыслить и осознавать себя, а значит и принимать полностью самостоятельные решения, не может быть создан в принципе. Но опасность существует и сейчас, и заключается она как раз в том, что программирует алгоритм человек, а что он решает закладывать в качестве принципа принятия решения машиной может зависеть, в том числе и от нравственных установок или их отсутствия», - говорится в докладе.
«Однако технологический прогресс помимо заманчивых благ цивилизации таит в себе духовную опасность. Речь идет о соблазне переложить на машину не только сохранение и обеспечение жизни и здоровья людей, но и право альтернативного выбора, и наступающую вследствие него моральную ответственность. Каждый подобный выбор независимо от внешних обстоятельств совершается в душе человека и изменяет ее, приближая или отдаляя от Бога», - подчеркнул докладчик.
«Чрезвычайно пагубно обманываться иллюзорностью греха даже в виртуальном мире, созданном при помощи ИИ. Тем более не следует отказываться от своей воли и доверяться компьютерной программе в тех сферах жизни, где крайне важен личный выбор. Например, в последние годы небывалой популярностью, причем все чаще среди желающих вступить в брак, пользуются сайты знакомств с встроенным алгоритмом подбора пары. В наши дни, не менее чем в первые века христианства, актуален призыв апостола: "Смотрите, поступайте осторожно" (Еф. 5, 15). Ведь даже наиболее точно вычисленное общественное благоденствие блекнет перед вечным блаженством Царства Небесного, которое открывается верным последователям Христа», - отметил владыка.
Далее он сказал несколько слов о цифровой дисциплине. «В мире информационных технологий жизнь человека становится максимально открытой. Частота сердцебиения может точно измеряться обычными ручными часами, и эти сведения доступны для обработки удаленного сервера на другом конце планеты. Сегодня для получения доступа к любому электронному сервису необходимо дать согласие на сбор и обработку личных данных. Без них смартфон, который есть у большей части населения планеты, превращается в примитивный телефон. В современном Китае существует система социального рейтинга частных лиц, который формируется по данным опубликованных в интернете черных и красных списков государственных органов и компаний, а также на основании сведений, накопленных центральным банком и частными платформами сбора личных данных (Алибаба, Вичат и др.). Рейтинг понижается, например, за просрочку выплат по банковскому кредиту, опасное вождение, курение в неположенном месте и даже за чрезмерно активную покупку видеоигр. В настоящее время использование государством социального рейтинга граждан отрицается, но он учитывается работодателями, банками и частными компаниями», - отметил митрополит.
«Например, - сказал он, - на основе высокого внутреннего рейтинга пользователи системы Алипэй могут по всему Китаю без залога брать напрокат велосипеды, повербанки, пользоваться услугами каршеринга, а также получить кредит "в один клик". Но вместе с тем, те, у кого низкий рейтинг, рискуют получить отказ при приеме на работу. Уже не первый год обсуждается возможность введения общегосударственного социального рейтинга граждан на основе применения системы распознавания лиц. Казалось бы, все справедливо, но насколько машина будет совершенна в идентификации, насколько компетентна в определении судьбы человека? Ведь она не знает ни сострадания, ни милосердия».
«С недавнего времени российское законодательство предписывает в некоторых случаях оснащать системой видеонаблюдения даже православные храмы. Добрался электронный пастух и до Свято-Троицкого собора в г. Калуге, и до московского метрополитена. Пока он только хранит видео, но кто знает, потребует ли безопасность будущего общества непрерывной обработки ИИ видеопотоков с миллионов и миллиардов камер, расположенных повсюду: в магазинах и офисах, в кафе и в общественном транспорте, на стадионах и в храмах. Останавливает такого рода угрозу тотального контроля над человеком отсутствие достаточного пространства для хранения и обработки такого невероятного объема информации, а также достаточного количества энергии для обслуживания неких "вселенских" хранилищ данных. Но все же, поскольку локальные системы, внедренные в конкретном городе или даже стране, имеют тенденцию к масштабированию, так что это, возможно, вопрос только лишь времени, пускай и достаточно длительного», - продолжил он.
«Сбор данных в современном мире подобен сбору пошлины мытарями во времена земной жизни Христа. Никто не может пройти беспрепятственно мимо стола сборщика подати. Большинство жителей планеты уже в этом столетии ощутит всю силу "технологической мытницы". Позволительно ли давать подать новому кесарю? Ответ на этот вопрос тот же, что дал Христос две тысячи лет: "Отдавайте кесарево кесарю, а Божие Богу" (Мф. 22, 21). С 2015 г. в США существует культ ИИ. Его основатель Энтони Левандовски утверждает, что вскоре ИИ станет настолько всеведущим и всесильным, что уподобится Богу. Но в этом году его движение WayoftheFuture было ликвидировано как религиозная организация. Признавая, что, прежде всего, Бог — не творение человека, а Бог есть САМ Творец всего мира, мы должны поклоняться Ему "в духе и истине" (Ин. 4, 23), каких бы высот ни достигало развитие наук и технологий», - добавил владыка.
«Кроме того, - заметил он, - весьма настораживает, что накопленный научный потенциал в области психологии, социологии и естественных наук уже сегодня с большой уверенностью позволяют не только прогнозировать поведение социума, но и влиять на него определяющим образом, кратно превосходя тоталитаризм XX века. Быть может апокалипсис, который изображен Ф.М. Достоевским в легенде о Великом Инквизиторе (роман "Братья Карамазовы"), в грядущем информационно-технологическом укладе сможет воплотиться и буквально: хлеб в обмен на волеизъявление жить во Христе».
«Но более вероятной ситуацией будет то, что общественная мораль будет разлагаться по причине вседозволенности. "Они будут любить нас, как дети, за то, что мы им позволим грешить, — говорит Инквизитор. — Мы скажем им, что всякий грех будет искуплён, если сделан будет с нашего позволения". В этом случае следование евангельским принципам будет ненавистно для подавляющего большинства, сжившегося с грехом. Христианская жизнь станет мученичеством в мире, забывшем Христа и Его Церковь. В силу особенностей русской культуры наше Отечество может извлечь пользу от грядущей информационно-технологической трансформации человечества. Ведь исповедание Христа "пред человеками" — ответственное следование Его заветам, осуществление Евангельских норм жизни — пролагает путь к тому, что и Сын Человеческий исповедает нас пред Ангелами Божиими (см. Лк. 12, 8). Великий мыслитель, а впоследствии монах Троице-Сергиевой Лавры К.Н. Леонтьев видел историческую миссию России в христианском подвиге послушания. Дисциплина нового технологического уклада может открыть миру высоту этого подвига и принести свой плод "во время свое" (Пс. 1, 3)», - подчеркнул митрополит.
Таким образом, отметил он, эпоха технологических «мытарств» — время испытаний христианской веры может стать настолько же спасительной для человеческой души, как и во времена преподобного Сергия, как и при гонениях на Русскую Церковь в XX веке.
«По мысли архипастыря Элладской Церкви митрополита Месогейского и Лавреотского Николая, мы должны стремиться стяжать "любомудрый, философский ум", чтобы судить о достижениях научно-технического прогресса и использовать его достижения без вреда для вечной участи. Для этого современным христианам особенно важно иметь духовную жизнь, чтобы одухотворять современный мир свидетельством вечной Истины. Вызовы, связанные с разработкой и использованием ИИ, напоминают нам о необходимости духовного подвига и самодисциплины. Ведь под перманентным надзором машин вся жизнь христианина неизбежно становится непрерывным исповедничеством Сына Божия и Его Евангелия Правды», - продолжил владыка.
«В заключение необходимо сказать, что двумя рассмотренными вопросами далеко не ограничиваются все угрозы, которые несет человеку и обществу ИИ. Одной из задач, которую ставит перед собой рабочая группа комиссии Межсоборного присутствия по рассмотрению проблематики, связанной с развитием искусственного интеллекта, является выработка списка опасений, которые видят в развитии ИИ православные христиане. Есть много ложных страхов и переживаний, связанных с отсутствием информации или с мифологизацией этой темы, а есть и реальные вопросы, которые может сформулировать только человек, имеющий христианское мировоззрение. Нам принципиально важно представить себе тот объем реального беспокойства, которое вызывают технологии ИИ у христианского сообщества. Предлагаю участникам конференции сформулировать те вопросы, которые могут стать началом такого перечня, и необходимо в будущем продолжить по изучению вопрос об ИИ со всех сторон, и составить полный список опасений, связанных с бесконтрольным использованием ИИ», - заключил митрополит Климент.
