Опасения об ИИ

После публикации предыдущей заметки некоторые её прочитавшие приписали мне некие опасения по поводу Искусственного Интеллекта. Однако никаких опасений по поводу ИИ, конечно же, у меня нет. И думаю, что не должно их быть ни у кого.

Почему? Потому что непонятно, что такое этот самый ИИ. В настоящий момент это просто модное словечко, которое используется для обозначения огромного количества вещей и одновременно не обозначает ничего определённого. Я не знаю, какие могут быть опасения по поводу непонятно чего. Хотя если посмотреть новости, там выражают эти самые опасения и даже страхи. Давайте их разберём.

Из всего разнообразия опасений можно вывести три главных: 1. количество фейков увеличится; 2. люди потеряют работу; 3. наступит «конец света».

Начнём с первого. Утверждают, что станет больше фейков. Может быть, их станет даже слишком много. Вследствие того, что новые генераторы текстов и изображений, а также генераторы речи, которые могут «копировать» голос определённого человека, можно легко использовать для создания фальшивок, мошенничества и дискредитации разных лиц.

На первый взгляд проблема выглядит серьёзно. Однако проблема эта явно преувеличена. «Фейки» и мошенники существуют уже давно. И противодействие им — во многом вопрос доверия и критического мышления. Но пока есть люди, которые готовы поверить чему угодно, написанному в интернете, как и любому представившемуся полицейским по телефону, тут какие-то хитрые генераторы просто излишни.

Второе опасение — потеря работы. Этим, впрочем, людей пугают уже полвека. «Роботы заменят тебя уже завтра! Или хотя бы через десять лет», — кричат заголовки газет, и все просто в ужасе. А потом шумиха проходит, и все об этом как-то забывают. Но затем ситуация повторяется. И ничего кардинально не меняется.

В последние годы, к примеру, было много шума вокруг нейросетей. Но вот был такой Перцептрон. И это была нейросеть аж в 1958 году. Ещё Гагарин не полетел в космос, а нейросети уже были. И уже тогда говорили, что всё кончено, и завтра машина сможет всё то же, что и человек, который станет не нужным. Но что-то не срослось.

Сейчас также много говорят о том, что писателей якобы заменит Языковая Модель вроде GPT или той, которую хочет сделать Яндекс. Но подобную штуку предложил Клод Шэннон ещё в 1948 году. И она давно уже есть у каждого человека в телефоне (когда человек набирает текст на клавиатуре, программа подставляет-предсказывает слово). Исчезли ли от этого писатели? Нет, конечно. Лишились ли люди работы? Тоже нет. (Был нанесён урон грамотности населения, но это почему-то мало у кого вызывает опасения). И не совсем понятно, почему сегодня вдруг всё должно быть иначе.

Наконец, третье опасение — «конец света», восстание машин и прочие глупости.

Это очень смешная перспектива. Чтобы в неё поверить, нужно очень долго бомбардировать своё сознание низкопробной научной фантастикой и верить в великие силы материи, которая всё делает сама собой. Тогда только это покажется серьёзным.

И ещё смешнее, что на роль будущего «цифрового бога» все пророчат новую версию GPT или другую подобную Языковую Модель. Каким образом генератор текста, который не дружит с логикой (когда первая программа, доказывающая теоремы, была сделана аж в 1956!) и отрезан от внешнего мира даже в виде интернета, начнёт мыслить, обретёт сознание и до кучи ещё начнёт вредить людям?! Горе-предсказателей это не волнует. У них количество (Большая Языковая Модель же) чудным образом переходит в (непременно хорошие) новые свойства вещей — эмерджентность, видите ли.

В итоге, все эти опасения по поводу ИИ неоправданны. А вот кого нужно опасаться, так это людей. Тех людей, кто нас пугает ИИ.

Когда нас пугают ИИ, то, конечно же, преследуют в первую очередь цели рекламы. Всем понятно, что сенсационные рассказы про жуткий ИИ люди читают с большим интересом, чем статью про миллиарды долларов, ушедшие на создание бесполезной игрушки. Поэтому разработчик программы анонсирует выпуск ужасающего продукта, и журналисты это подхватывают, делая ему бесплатную рекламу.

Статьи про будущую потерю работы тоже интересны и устрашающи, но не так сильно, как восстание машин. Однако они преследуют и другую цель — деморализацию.

Когда спайка чиновников и БигТек рассказывает нам про то, что нас скоро всех заменят, они имеют в виду одно: «Вы — ничтожества. Даже не смейте думать о повышении зарплат, улучшении условий труда или тягости налогового бремени. Будете вякать — вас легко заменят на компьютер, который много не просит. Так что радуйтесь тому, что у вас есть, пока вас не выкинули на мороз». Причём этим людям плевать, кого «менять». Шесть лет назад говорили про то, как самоуправляемые грузовики скоро заменят дальнобойщиков (обман, в этой отрасли за 40 лет никаких особых достижений). Теперь вот Языковая Модель вдруг заменит всех учителей. Тут нужно понимать, что это — не прогнозы, а пропаганда.

А вопли о «фейках», которые плодят различные генераторы, скоро могут быть использованы для обоснования необходимости создания «электронного концлагеря». Талдычат, что «фейки» очень опасны и многочисленны, поэтому для борьбы с ними просто необходимо организовать слежку за всеми — ввести вход в интернет по паспорту и сделать во всех программах добавление уникальных меток, чтобы можно было однозначно узнать, кто создал тот или иной файл. Тогда «изготовителей фейков» можно будет тут же отследить и покарать, а «фейки» удалить. И всё это якобы необходимо для нашей общей безопасности. Естественно, «фейком» можно будет объявить что угодно, а определяющий эту самую «фейковость» обретёт огромную власть.

Представляется, что немногие, но влиятельные деятели хотят именно этого. И вот это уже вызывает опасения. Поэтому нужно не бояться какого-то ИИ, а высвечивать тех, кому выгодна шумиха вокруг него.

Фёдор Александрович Шиманский, публицист, исследователь современной истории