Ловушка цифровизации

Две странности. Начнем с двух странностей. Странность первая. Испытание любой вакцины состоит, в частности, в том, что отслеживается сероконверсия: на какой день и у какого количества вакцинированных вырабатываются антитела. Предполагается, что антитела обеспечивают организму защиту, поэтому, если после вакцинации появляется достаточное количество антител, вакцина эффективна.

Но при этом мы слышим заявления, что наличие антител ещё ни о чём не говорит. Что надо вакцинироваться, не взирая на то, есть у тебя антитела или нет. Такое ощущение, что защиту человеку создаёт сам акт вакцинации, а не его результат. Что, конечно, не так. Важен не факт укола, а наличие антител. И то, что антитела, уже присутствующие в организме, медицинскую систему не интересуют, странно. (Сейчас, вроде бы, эта странность стала осознаваться, пошли разговоры о том, что надо бы выдавать QR-код и тем, у кого высокий титр антител. Но мы зафиксируем то, что изначально наличие антител полностью игнорировалось).

Странность вторая. Вакцина «Спутник Лайт» позиционируется как специально разработанная для тех, чей организм уже вырабатывал антитела к коронавирусу. На официальной сайте вакцины написано, что «Спутник Лайт» – идеальный бустер для людей, ранее переболевших COVID-19 или для ревакцинации после «Спутника V» или других вакцин. Там же сказано, что «Спутник Лайт» показал «свою безопасность и высокую эффективность в комбинации с вакцинами AstraZeneca, Sinopharm и Moderna».

Однако человеку, сделавшему прививку указанными вакцинами, невозможно ревакцинироваться «Спутником Лайт». И вовсе не каждый человек, переболевший ковидом и имеющий антитела, может получить этот «идеальный бустер». Потому как единственным реальным критерием применения «Спутника Лайт» является наличие данных в системе ЕГИСЗ о том, что человек ранее болел или уже был вакцинирован. Если ПЦР-тест, сделанный больному, показал отрицательный результат, с точки зрения системы он считается не болевшим. И вместо «мягкого» бустера он должен получить «по полной программе» двухэтапную стартовую вакцинацию, хотя это создаёт дополнительные риски для его здоровья.

Объяснение странностей. Обе странности объясняются одинаково. Система защищается от обмана. ПЦР-тесты и вакцинация являются действиями, в отношении которых выстроен режим строгой отчётности. Критерием истинности выступает ЕГИСЗ (Единая государственная информационная система в сфере здравоохранения). Если есть соответствующая запись в официальной системе медицинской отчетности, то факт считается подтверждённым. Если такой записи нет, то все прочие данные игнорируются, как недостаточно надёжные. Результаты анализов на антитела в государственные реестры не заносятся, поэтому система их отвергает. Без должного учёта тут возможны подделки. При нынешней развитости графических программ, нарисовать себе бланк с нужными показателями может чуть ли не каждый.

ЕГИСЗ создавалась не под ковид. Её возникновение – естественное следствие развития цифровых технологий, позволяющих унифицировать организацию и управление в масштабах страны, подучать единую отчетность, контролировать действия на местах. Здравоохранение – лишь одна из отраслей в общем ряду, охваченных цифровизацией.

Единые информационные системы параллельно развиваются в разных сферах, часто совершенно незаметно для рядовых обывателей. Иногда внедрение новых функций вызывает общественный резонанс, как было, например, с системой «Платон», через которую взимается плата с большегрузных автомобилей (в зависимости от их пробега). Цифровой учёт пробега заставляет декларировать все перевозки и таким образом способствует сокращению оборота «чёрных» (неподучётных) товаров. Ещё одна система, «Меркурий», охватывает цепочки поставок продуктов: мяса, молока, рыбы и морепродуктов, что сокращает вероятность проникновения в торговую сеть несертифицированных товаров. Теперь весьма затруднительно реализовать товар и не заплатить при этом налоги. А так как неподучётная «левая» продукция может быть весьма сомнительного качества (ответственного за некачественный товар в этом случае найти сложно), то внедрение данной системы можно расценивать и как заботу о здоровье потребителей. Сейчас внедряется система ЛесЕГАИС – единая государственная система учёта древесины и сделок с ней. Подобный учёт должен остановить «чёрных лесорубов» и воспрепятствовать расхищению лесного богатства страны. Список информационных систем можно длить и длить.

Однако подобно тому, как газ, выпущенный в ёмкость, откуда был откачен воздух, стремится заполнить весь её объём, цифровизация, если следовать её внутренней логике, потенциально склонна охватить все стороны человеческой жизни. Например, уже озвучивались проекты цифровой регистрации домашних животных – от кроликов и птицы подсобных хозяйств до всех собак и кошек. Аргументы за подобное расширение электронного контроля придумать несложно. Можно расширить и сферу действия ЛесЕГАИС, включив в неё не только древесину, но также сбор грибов, ягод, даже дикорастущих цветов.

Введение системы QR-кодов, позволяющих ограничивать доступ определённых категорий людей к тем или иным услугам, а в перспективе – учитывать количество потребляемых услуг каждым из нас, – из этой же серии. QR-код обеспечивает объективный подход, то есть он учитывает лишь формальные признаки, не взирая на человека. Когда старушку не пускают в торговый центр, потому что у неё нет QR-кода – это торжество системы, элиминировавшей все человеческие чувства (жалость, сочувствие, милосердие и т.д.). С точки зрения сегодняшней оценки ситуации, подобные проявления создают дополнительные риски (старушка может быть носителем вируса). Цифровая система стремится к идеалу, когда опасные (непросчитанные, несанкционированные) ситуации невозможны. За этим стремлением стоит философское убеждение, что просчитать можно всё и, если модель постоянно совершенствовать, степень погрешности системы будет стремиться к нулю. Поэтому, например, можно ввести строгий учёт анализов на антитела и, соответственно, допустить выдачу QR-кодов на основании титров антител. Главное, чтобы сохранялся сам принцип: допуск к услугам на основании официально верифицируемой информации.

Этическая и профессиональная эрозия. Допустим на минутку, что философская посылка тотальной цифровизации справедлива. Что действительно возможна тонкая настройка системы, когда правильный результат достигается путём отбора возможных действий. Человек программируется тем, что у него отсекаются произвольные и сомнительные поступки. В результате он действует должным образом ко всеобщему благополучию и процветанию.

Это означает полное замещение этики технологией. От человека больше не требуется персонального решения этических проблем, у него нет пространства для нравственного выбора. Что бы он себе ни думал, система принудит его действовать в соответствии с заданными границами. Не имея возможности совершить ошибку и прочувствовать её последствия, люди будут терять собственно этическую мотивацию, что чревато абсолютной потерей этической способности. Иначе говоря, произойдёт духовное омертвение. Когда все решения делегируются системе, человек не будет чувствовать никакой личной ответственности. Он не будет отвечать ни за что.

Как следствие, нас ждёт эпоха профессиональной деградации. Уже очевиден механизм, который тут будет задействован. Так, существует официально рекомендованный протокол, по которому осуществляется лечение при ковиде. Если врач следует этому протоколу, то он не несёт ответственности за результаты лечения. В случае, если пациент умрёт, врач невиновен, так как он делал то, что ему предписано. Если же врач в своих действиях отклонился от протокола, а пациент умер, то виновен врач – он лечил не так, как рекомендовалось. Понятно, что при таких «вводных», мало кто из врачей решится отступить от инструкции. Протокол же составлен на основании усреднённых оценок и не учитывает конкретной ситуации пациента. Поэтому всем дают одни и те же лекарства, проводят одну и ту же последовательность манипуляций. Протокол, конечно, совершенствуется, но люди при этом теряются. В идеале мы должны прийти к «правильному» протоколу, который учтёт все возможности проявления болезни и выработает наиболее верные действия для каждого варианта. Но кто тогда будет врач (в профессиональном отношении)? Периферийное устройство при протоколе? Такого врача можно будет смело заменить компьютером.

Примерно такой же процесс мы наблюдаем в образовании. Учитель всё больше превращается в приложение к методичке или компьютерному курсу. В цифровом мире его задача – обеспечить взаимодействие ученика с информационным продуктом – обучающей программой, в которую заранее заложены все нужные решения.

И так может быть во всех областях. Итог тотальной цифровизации – это исключение человека, который в этой системе предстаёт как источник ошибок и стохастических флуктуаций, нарушающих выстроенный оптимальный баланс. Человека надо стреножить, загнать в ячейку блок-схемы, превратить в запрограммированного исполнителя команд. То есть цифровизация – это путь к трансгуманизму. Рано или поздно встанет вопрос, что биологический субстрат – лишь помеха в деле построения совершенной системы.

Возможно ли цифровое совершенство? Не стоит забывать о том, что компьютер не мыслит. Он может только имитировать мышление. Поэтому любая система ограничена параметрами, заданными при её создании. Оптимизация системы, таким образом, возможна лишь в определённых пределах, и совершенство внутри системы достижимо лишь с точки зрения приоритетов её самой, а если рассматривать такую систему извне, то она будет обладать уязвимостями и недостатками.

Жизнь сложнее любых концепций, живой человек всегда будет конфликтовать с любой системой. И если социальная реальность будет сводиться к неким формальным правилам (пусть и просчитанным во множестве вариантов и поддерживаемым искусственным интеллектом), она неизбежно придёт к отрицанию человека. Не случайно, например, в СССР существовала возможность обращения в партийные органы. Когда человек видел, что по закону (по формальным правилам) он ничего сделать не может, он шёл и просил разобраться по понятиям, т.е. решить вопрос с точки зрения этических норм или здравого смысла.

Строящаяся цифровая реальность как раз в качестве особой «фишки» (специального преимущества) выставляет отказ от субъективного (читай – человеческого) фактора. Человеку предлагается признать, что он и есть главная причина своих проблем, и самоустраниться, передав бразды правления выверенному алгоритму.

Но это невозможно. Если бы такое действительно случилось, достаточно быстро последовали бы кризис и крах, так как именно человек является генератором развития и обеспечивает ответы на новые, нестандартные вызовы. На самом же деле нами будут править не алгоритмы, а их разработчики и постановщики задач, которые прекрасно осознают возможности и выгоды, которые несёт с собой статус человека, только если до сих пор считалось, что полнота этого статуса распространяется на всех, то теперь она будет ограничена узким кругом выгодополучателей.

Андрей Владимирович Карпов, главный редактор сайта «Культуролог»