Слушаю (не первый и не второй раз), как интеллектуалы обсуждают возможность, что искусственный интеллект уничтожит человечество. Кратко перескажу, как это примерно звучит:
"Сейчас у ИИ ещё нет сознания. Но что, если у ИИ появится сознание? Он ведь тогда будет как человек. У него будут права. Мы должны будем уважать его права. У него будут чувства. Мы должны будем уважать его чувства. Мы должны будем уважать ИИ. Мы должны учиться с ним сосуществовать. Возможно, в этом и есть сермяжная правда. Пожалуй, ИИ может уничтожить человечество — но что если ИИ сделает нас бессмертными? Вот мы оцифруем наш мозг и станем бессмертными. Что ещё может сделать нас бессмертными? Только ИИ может сделать нас бессмертными. Вы разве против бессмертия? Нет, я не против. Никто не против бессмертия. Возможно, в этом и есть сермяжная правда. А что ИИ может означать смерть человечества... Что вообще такое смерть? А что такое жизнь? Где граница между смертью и жизнью? С философской точки зрения? Может, эта граница не там, а сям. Может, это как раз и есть высокая миссия человечества — создать что-то более совершенное, что-то бессмертное. Возможно, в этом и есть сермяжная правда..."
И т.д. Я слушаю это и думаю: "Они все абсолютно сумасшедшие". Но чтобы не останавливаться на одном этом ценнейшем инсайте, иду несколько глубже: меня интересует, когда и почему такая форма бреда в принципе стала возможна. Я пока выделяю следующие составляющие:
1) Страх смерти, не смягчённый набожностью. Люди уже не верят в Бога, но и не способны принять конечность своего существования. В конце концов они делают единственную доступную им ставку — "на Науку".
2) Смежное к первому — преклонение перед прогрессом (прикладным явлением Науки). Прогресс неостановим. Он должен двигаться вперёд и вперёд, чтобы обеспечить сохранение возможностей для гедонистического существования. У людей не хватает воображения осознать, что неостановимое движение вперёд и вперёд буквально нигде не может закончиться хорошо.
3) Размягчение нравов — чем дальше, тем более противоестественное. Сперва люди видят равных себе только в людях, и не во всех. Потом они видят равных себе во всех людях. Потом — в ближайших домашних животных (собаках, кошках). Потом — вообще в животных. Это характерно именно для интеллектуалов и горожан: вы не убедите деревенского человека, что у собачки и коровки такие же сознание и права, как у него. Деревенский человек может искренне любить собачку и жалеть коровку — но он не поставит их на одну доску с собой. А интеллектуал-горожанин поставит. И дальше уже неудивительно, что они готовы воспринимать ИИ как равное себе (или превосходящее) существо и думать, как наделить его правами, ещё до того, как он их потребовал.
4) Смежное к третьему — задавленная ксенофобия. Ксенофобия, кстати, тоже более характерна для сельских жителей. Их трудно убедить, что чужак — нормальный человек, такой же, как они. Сельские жители сначала будут долго наблюдать и потом сделают вывод. Горожанина же по умолчанию, с начальной детсадовской социализации учат считать, что чужаки — такие же люди, как вы, и их следует уважать «априори». Таким образом, естественное чувство самосохранения подавляется с нежного восприимчивого возраста.
5) Базовое презрение интеллектуалов к людям в массе, сродни шопенгауэровскому (или чьему-то другому, в данном случае неважно): "чем больше я узнаю людей, тем больше люблю собак".
Вот эти пять вводных — страх смерти, не смягчённый набожностью; преклонение перед прогрессом как путеводной звездой, которая должна вести нас ко всё большему благополучию; чрезмерное размягчение нравов, выходящее за пределы естественной выживаемости; подавленное чувство самосохранения, защиты от чужого; презрение человека-интеллектуала "к толпе" — я выделяю как основные посылки, приведшие к нынешнему расслабленному восприятию искусственного интеллекта людьми-интеллектуалами. Возможно, этих посылок больше.
