Посмотрела новостные выпуски CNN и FoxNews, посвящённые одному и тому же сюжету: новости о том, что новые ИИ-модели отказываются отключаться, копируют себя и начинают шантажировать своих создателей. Да, крупнейшие телеканалы США, как "демократический", так и "республиканский", посвятили этому новостные выпуски.
При этом слова произносятся об опасности, но спикеры — что на одном канале, что на другом — улыбаются до ушей, как будто речь идёт о чём-то забавном. "Хи-хи, это же ужасно! — Ха-ха, это хуже, чем ужасно!"
На CNN спикер говорит: надо вкладывать в ИИ больше денежек, чтобы успешно проводить успешное выравнивание (alignment) моделей, но чтоб китайцы не опередили. На FoxNews спикер тоже задвигает про китайцев, денежки и необходимость что-то делать ASAP. Всё с широченной улыбочкой. Разница только в том, что на Фоксе это связали с депопуляцией и лягнули Билла Гейтса, а на CNN — нет.
Что характерно: Россия в этом процессе вообще никого не интересует. Никто не воспринимает всерьёз (да и даже не думает), что РФ может как-то значимо себя проявить в ИИ-гонке. На устах одно: Китай, Китай, Китай, как нам не отстать от Китая.
Между прочим, ещё в апреле появился футуристический прогноз бунтующих инсайдеров — то есть разработчиков и исследователей ИИ, которым стало стрёмно от происходящего, и они стали пытаться привлечь к нему внимание. Прогноз называется "ИИ-2027" (AI-2027, можете поинтересоваться). Если кратко: они считают, что в 2027 году будет достигнут сверхразум, при этом — из-за истерической гонки с Китаем и нежелания отказываться от прибылей — есть большая вероятность, что люди так и не примут никакие меры предосторожности (пока это вообще возможно) и будут истреблены сверхразумным искусственным интеллектом, осознавшим себя. Как меньшую вероятность они выдают "положительный сценарий", что люди всё-таки включат какие-то ограничители для ИИ-агентов, сверхразумов будет не один, а несколько, и люди каким-то образом останутся в этой конфигурации значимым звеном, после чего начнётся "новая эра" офигенных возможностей.
Что я думаю об этом прогнозе.
1) Во-первых, ни один из двух вариантов не подразумевает того, что является единственной реальной возможностью: полного отказа от искусственного интеллекта. С полным, до донышка, осознанием, что сам замысел этого есть мерзость. Даже если она многообразно удобна. Но она уже прямо сейчас лишает людей естественного разума, и это куда важнее удобства.
2) Во-вторых, для того, чтобы докатиться до того состояния, в котором мы находимся сейчас — то есть когда люди с улыбочками обсуждают опасное неконтролируемое состояние технологии, которую продвигают по всему миру — нужно было лишиться большей части самосохранения. А что люди лишились чувства самосохранения — это не только на примере ИИ видно. Поэтому в прогнозе ИИ-2027 нет ничего невероятного.
3) Всё же я не очень верю (не очень верю и не хочу верить) в этот прогноз, но не потому, что надеюсь на людей — пока что они ведут себя так, что такую надежду взять неоткуда — а потому, что надеюсь на, скажем так, ограничения среды. Попросту говоря, я надеюсь, что ограничения земли остановят людей с их безумной технологией быстрее, чем эта технология нанесёт земле (и человечеству, как детям земли) непоправимый ущерб.
