Добрался «электронный пастух» и до храмов

Митрополит Калужский и Боровский Климент об угрозе тотального контроля над человеком в связи с развитием искусственного интеллекта

Митрополит Калужский и Боровский Климент (Капалин) 
Электронный концлагерь 
0
04.03.2021 1550

Митрополит Калужский и Боровский Климент выступил на Международной научно-богословской конференции «Бог — человек — мир», сообщает сайт Московской Сретенской духовной семинарии. Направление: Образ Божий — сознание — искусственный интеллект.

«Сердечно приветствую всех участников конференции. Уже давно человечество мечтает переложить обслуживающий труд на плечи «умных» машин. Современная наука напряженно стремится к созданию искусственного интеллекта (ИИ). Кажется, еще немного усилий, и восторжествует человеческая гениальность: человек уподобится своему Творцу. Неужели создание самостоятельной разумной сущности — дело недалекого будущего?» - задается вопросом докладчик.

«Думаю, по многим причинам это не реально в просматриваемой перспективе, чтобы начинать серьезно относиться к угрозе со стороны ИИ в том отношении, как это прогнозируют фантасты и футурологи. Но уже сегодня перед человечеством встают проблемы, связанные с разработкой и внедрением технологий, имитирующих, а по скорости и объемам обработки информации — многократно превосходящих интеллектуальные способности человека. Остановлюсь на двух вопросах: свободе выбора и глобальном контроле со стороны информационных технологий», - продолжил он.

«Начну со свободы выбора. Как это ни странно, мы давно живем в эпоху, когда от решения запрограммированных устройств зависит сохранение мира на Земле. С 80-х годов прошлого столетия у нас и в США созданы военные системы гарантированного доведения приказов в условиях глобальной ядерной войны. Электронные машины уже более полувека отвечают за нанесение ответного удара на основании общего массива информации от разнообразных источников, в том числе от сейсмодатчиков. Именно созданные человеком алгоритмы анализа этих данных определяют тонкую грань между миром и войной на всей планете», - отметил митрополит.

Он подчеркнул, что в городах водители автотранспорта делегируют право выбора маршрута «навигатору» — программе, которая определяет оптимальное направление движения, обрабатывая актуальные данные о дорожной ситуации. «Пользуясь услугами современной авиации, мы и не предполагаем, что значительную часть полета (в том числе и самую сложную — посадку) выполняет автопилот по алгоритмам, заложенным в бортовую вычислительную машину. Современное сельское хозяйство строится на постоянном наблюдении за посевами на основании компьютерного анализа снимков полей. А первые беспилотные комбайны уже доказали свою экономическую эффективность на полях нашей страны. Вообще во всех без исключения отраслях экономики определяющим фактором эффективности является использование высокоточных автоматизированных систем и новейшего программного обеспечения. В будущем эта тенденция сохранится», - отметил докладчик.

«Таким образом, - подчеркнул он, - ИИ уже сегодня широко используется в народном хозяйстве. Заложенные в современные вычислительные машины алгоритмы позволяют сохранять мир (в глобальном смысле) и безопасность (на транспорте и в быту), не требуя от человека постоянного волеизъявления».

«Но сейчас ИИ имеет эту важную, но исключительно прикладную функцию, и до тех пор, пока он является лишь программой с заложенным человеком алгоритмом действий, опасности он не представляет. Современные ученые называют тот ИИ, с которым мы имеем дело "слабым искусственным интеллектом". Согласно свидетельствам практиков использования этих технологий, в ближайшем будущем, так называемый "сильный ИИ", когда машина сможет мыслить и осознавать себя, а значит и принимать полностью самостоятельные решения, не может быть создан в принципе. Но опасность существует и сейчас, и заключается она как раз в том, что программирует алгоритм человек, а что он решает закладывать в качестве принципа принятия решения машиной может зависеть, в том числе и от нравственных установок или их отсутствия», - говорится в докладе.

«Однако технологический прогресс помимо заманчивых благ цивилизации таит в себе духовную опасность. Речь идет о соблазне переложить на машину не только сохранение и обеспечение жизни и здоровья людей, но и право альтернативного выбора, и наступающую вследствие него моральную ответственность. Каждый подобный выбор независимо от внешних обстоятельств совершается в душе человека и изменяет ее, приближая или отдаляя от Бога», - подчеркнул докладчик.

«Чрезвычайно пагубно обманываться иллюзорностью греха даже в виртуальном мире, созданном при помощи ИИ. Тем более не следует отказываться от своей воли и доверяться компьютерной программе в тех сферах жизни, где крайне важен личный выбор. Например, в последние годы небывалой популярностью, причем все чаще среди желающих вступить в брак, пользуются сайты знакомств с встроенным алгоритмом подбора пары. В наши дни, не менее чем в первые века христианства, актуален призыв апостола: "Смотрите, поступайте осторожно" (Еф. 5, 15). Ведь даже наиболее точно вычисленное общественное благоденствие блекнет перед вечным блаженством Царства Небесного, которое открывается верным последователям Христа», - отметил владыка.

Далее он сказал несколько слов о цифровой дисциплине. «В мире информационных технологий жизнь человека становится максимально открытой. Частота сердцебиения может точно измеряться обычными ручными часами, и эти сведения доступны для обработки удаленного сервера на другом конце планеты. Сегодня для получения доступа к любому электронному сервису необходимо дать согласие на сбор и обработку личных данных. Без них смартфон, который есть у большей части населения планеты, превращается в примитивный телефон. В современном Китае существует система социального рейтинга частных лиц, который формируется по данным опубликованных в интернете черных и красных списков государственных органов и компаний, а также на основании сведений, накопленных центральным банком и частными платформами сбора личных данных (Алибаба, Вичат и др.). Рейтинг понижается, например, за просрочку выплат по банковскому кредиту, опасное вождение, курение в неположенном месте и даже за чрезмерно активную покупку видеоигр. В настоящее время использование государством социального рейтинга граждан отрицается, но он учитывается работодателями, банками и частными компаниями», - отметил митрополит.

«Например, - сказал он, - на основе высокого внутреннего рейтинга пользователи системы Алипэй могут по всему Китаю без залога брать напрокат велосипеды, повербанки, пользоваться услугами каршеринга, а также получить кредит "в один клик". Но вместе с тем, те, у кого низкий рейтинг, рискуют получить отказ при приеме на работу. Уже не первый год обсуждается возможность введения общегосударственного социального рейтинга граждан на основе применения системы распознавания лиц. Казалось бы, все справедливо, но насколько машина будет совершенна в идентификации, насколько компетентна в определении судьбы человека? Ведь она не знает ни сострадания, ни милосердия».

«С недавнего времени российское законодательство предписывает в некоторых случаях оснащать системой видеонаблюдения даже православные храмы. Добрался электронный пастух и до Свято-Троицкого собора в г. Калуге, и до московского метрополитена. Пока он только хранит видео, но кто знает, потребует ли безопасность будущего общества непрерывной обработки ИИ видеопотоков с миллионов и миллиардов камер, расположенных повсюду: в магазинах и офисах, в кафе и в общественном транспорте, на стадионах и в храмах. Останавливает такого рода угрозу тотального контроля над человеком отсутствие достаточного пространства для хранения и обработки такого невероятного объема информации, а также достаточного количества энергии для обслуживания неких "вселенских" хранилищ данных. Но все же, поскольку локальные системы, внедренные в конкретном городе или даже стране, имеют тенденцию к масштабированию, так что это, возможно, вопрос только лишь времени, пускай и достаточно длительного», - продолжил он.

«Сбор данных в современном мире подобен сбору пошлины мытарями во времена земной жизни Христа. Никто не может пройти беспрепятственно мимо стола сборщика подати. Большинство жителей планеты уже в этом столетии ощутит всю силу "технологической мытницы". Позволительно ли давать подать новому кесарю? Ответ на этот вопрос тот же, что дал Христос две тысячи лет: "Отдавайте кесарево кесарю, а Божие Богу" (Мф. 22, 21). С 2015 г. в США существует культ ИИ. Его основатель Энтони Левандовски утверждает, что вскоре ИИ станет настолько всеведущим и всесильным, что уподобится Богу. Но в этом году его движение WayoftheFuture было ликвидировано как религиозная организация. Признавая, что, прежде всего, Бог — не творение человека, а Бог есть САМ Творец всего мира, мы должны поклоняться Ему "в духе и истине" (Ин. 4, 23), каких бы высот ни достигало развитие наук и технологий», - добавил владыка.

«Кроме того, - заметил он, - весьма настораживает, что накопленный научный потенциал в области психологии, социологии и естественных наук уже сегодня с большой уверенностью позволяют не только прогнозировать поведение социума, но и влиять на него определяющим образом, кратно превосходя тоталитаризм XX века. Быть может апокалипсис, который изображен Ф.М. Достоевским в легенде о Великом Инквизиторе (роман "Братья Карамазовы"), в грядущем информационно-технологическом укладе сможет воплотиться и буквально: хлеб в обмен на волеизъявление жить во Христе».

«Но более вероятной ситуацией будет то, что общественная мораль будет разлагаться по причине вседозволенности. "Они будут любить нас, как дети, за то, что мы им позволим грешить, — говорит Инквизитор. — Мы скажем им, что всякий грех будет искуплён, если сделан будет с нашего позволения". В этом случае следование евангельским принципам будет ненавистно для подавляющего большинства, сжившегося с грехом. Христианская жизнь станет мученичеством в мире, забывшем Христа и Его Церковь. В силу особенностей русской культуры наше Отечество может извлечь пользу от грядущей информационно-технологической трансформации человечества. Ведь исповедание Христа "пред человеками" — ответственное следование Его заветам, осуществление Евангельских норм жизни — пролагает путь к тому, что и Сын Человеческий исповедает нас пред Ангелами Божиими (см. Лк. 12, 8). Великий мыслитель, а впоследствии монах Троице-Сергиевой Лавры К.Н. Леонтьев видел историческую миссию России в христианском подвиге послушания. Дисциплина нового технологического уклада может открыть миру высоту этого подвига и принести свой плод "во время свое" (Пс. 1, 3)», - подчеркнул митрополит.

Таким образом, отметил он, эпоха технологических «мытарств» — время испытаний христианской веры может стать настолько же спасительной для человеческой души, как и во времена преподобного Сергия, как и при гонениях на Русскую Церковь в XX веке.

«По мысли архипастыря Элладской Церкви митрополита Месогейского и Лавреотского Николая, мы должны стремиться стяжать "любомудрый, философский ум", чтобы судить о достижениях научно-технического прогресса и использовать его достижения без вреда для вечной участи. Для этого современным христианам особенно важно иметь духовную жизнь, чтобы одухотворять современный мир свидетельством вечной Истины. Вызовы, связанные с разработкой и использованием ИИ, напоминают нам о необходимости духовного подвига и самодисциплины. Ведь под перманентным надзором машин вся жизнь христианина неизбежно становится непрерывным исповедничеством Сына Божия и Его Евангелия Правды», - продолжил владыка.

«В заключение необходимо сказать, что двумя рассмотренными вопросами далеко не ограничиваются все угрозы, которые несет человеку и обществу ИИ. Одной из задач, которую ставит перед собой рабочая группа комиссии Межсоборного присутствия по рассмотрению проблематики, связанной с развитием искусственного интеллекта, является выработка списка опасений, которые видят в развитии ИИ православные христиане. Есть много ложных страхов и переживаний, связанных с отсутствием информации или с мифологизацией этой темы, а есть и реальные вопросы, которые может сформулировать только человек, имеющий христианское мировоззрение. Нам принципиально важно представить себе тот объем реального беспокойства, которое вызывают технологии ИИ у христианского сообщества. Предлагаю участникам конференции сформулировать те вопросы, которые могут стать началом такого перечня, и необходимо в будущем продолжить по изучению вопрос об ИИ со всех сторон, и составить полный список опасений, связанных с бесконтрольным использованием ИИ», - заключил митрополит Климент.

Организации, запрещенные на территории РФ: «Исламское государство» («ИГИЛ»); Джебхат ан-Нусра (Фронт победы); «Аль-Каида» («База»); «Братья-мусульмане» («Аль-Ихван аль-Муслимун»); «Движение Талибан»; «Священная война» («Аль-Джихад» или «Египетский исламский джихад»); «Исламская группа» («Аль-Гамаа аль-Исламия»); «Асбат аль-Ансар»; «Партия исламского освобождения» («Хизбут-Тахрир аль-Ислами»); «Имарат Кавказ» («Кавказский Эмират»); «Конгресс народов Ичкерии и Дагестана»; «Исламская партия Туркестана» (бывшее «Исламское движение Узбекистана»); «Меджлис крымско-татарского народа»; Международное религиозное объединение «ТаблигиДжамаат»; «Украинская повстанческая армия» (УПА); «Украинская национальная ассамблея – Украинская народная самооборона» (УНА - УНСО); «Тризуб им. Степана Бандеры»; Украинская организация «Братство»; Украинская организация «Правый сектор»; Международное религиозное объединение «АУМ Синрике»; Свидетели Иеговы; «АУМСинрике» (AumShinrikyo, AUM, Aleph); «Национал-большевистская партия»; Движение «Славянский союз»; Движения «Русское национальное единство»; «Движение против нелегальной иммиграции»; Комитет «Нация и Свобода»; Международное общественное движение «Арестантское уголовное единство».

Полный список организаций, запрещенных на территории РФ, см. по ссылкам:
https://minjust.ru/ru/nko/perechen_zapret
http://nac.gov.ru/terroristicheskie-i-ekstremistskie-organizacii-i-materialy.html
https://rg.ru/2019/02/15/spisokterror-dok.html

Иностранные агенты: «Голос Америки»; «Idel.Реалии»; «Кавказ.Реалии»; «Крым.Реалии»; «Телеканал Настоящее Время»; Татаро-башкирская служба Радио Свобода (Azatliq Radiosi); Радио Свободная Европа/Радио Свобода (PCE/PC); «Сибирь.Реалии»; «Фактограф»; «Север.Реалии»; Общество с ограниченной ответственностью «Радио Свободная Европа/Радио Свобода»; Чешское информационное агентство «MEDIUM-ORIENT»; Пономарев Лев Александрович; Савицкая Людмила Алексеевна; Маркелов Сергей Евгеньевич; Камалягин Денис Николаевич; Апахончич Дарья Александровна; «Центр по работе с проблемой насилия "Насилию.нет"»; межрегиональная общественная организация реализации социально-просветительских инициатив и образовательных проектов «Открытый Петербург»; Санкт-Петербургский благотворительный фонд «Гуманитарное действие»; Социально-ориентированная автономная некоммерческая организация содействия профилактике и охране здоровья граждан «Феникс плюс»; автономная некоммерческая организация социально-правовых услуг «Акцент»; некоммерческая организация «Фонд борьбы с коррупцией»; Челябинское региональное диабетическое общественное движение «ВМЕСТЕ»; программно-целевой Благотворительный Фонд «СВЕЧА»; Красноярская региональная общественная организация «Мы против СПИДа»; некоммерческая организация «Фонд защиты прав граждан»; интернет-издание «Медуза»; «Аналитический центр Юрия Левады» (Левада-центр).

Списки организаций и лиц, признанных в России иностранными агентами, см. по ссылкам:
https://minjust.gov.ru/ru/documents/7755/
https://ria.ru/20201221/inoagenty-1590270183.html
https://ria.ru/20201225/fbk-1590985640.html

РНЛ работает благодаря вашим пожертвованиям.
Комментарии
Оставлять комментарии незарегистрированным пользователям запрещено,
или зарегистрируйтесь, чтобы продолжить

Загрузка...
Митрополит Калужский и Боровский Климент (Капалин)
Добрался «электронный пастух» и до храмов
Митрополит Калужский и Боровский Климент об угрозе тотального контроля над человеком в связи с развитием искусственного интеллекта
04.03.2021
«Наша задача — "заправить" себя Благодатью, отобразить в себе образ Христа»
Наши земные внешние различия — не повод для превозношения ни мужчины над женщиной, ни наоборот
24.10.2020
«С возрастом читать становится все интереснее…»
Ко дню рождения А.С.Пушкина
05.06.2020
Все статьи Митрополит Калужский и Боровский Климент (Капалин)
Электронный концлагерь
Вакцинация: Президента России можно игнорировать?
Не пора ли наводить административный порядок?
16.06.2021
Почему наши дети убивают
Автор и ведущая программы «Территория семьи» на радио «Радонеж» Людмила Рябиченко рассказывает о причинах и механизмах формирования разрушительных поведенческих установок у детей и молодёжи
12.06.2021
«Попытка бить Богом и управлять судьбой».
О цифровизации образования и власти цифры
12.06.2021
Всё идёт к замене человека цифрой
О пагубной концепции Минпросвещения РФ по внедрению цифрового профиля учащегося со всеми его данными и достижениями
11.06.2021
Все статьи темы
Последние комментарии
Вакцинация: Президента России можно игнорировать?
Новый комментарий от В.Р.
18.06.2021 13:38
Церковь готовится признать «екатеринбургские останки»?
Новый комментарий от Русский Сталинист
18.06.2021 13:33
Национализм – это зло или благо?
Новый комментарий от Русский Сталинист
18.06.2021 13:17
Цемент – русское изобретение
Новый комментарий от Калужанин
18.06.2021 12:53
Что происходит в стране?!
Новый комментарий от Лапшин С.С.
18.06.2021 11:23
«Корчевку начинай с корней…»
Новый комментарий от Лапшин С.С.
18.06.2021 09:22