© Pixabay Image by Gerd Altmann from Pixabay
Искусственный интеллект стал демонстрировать более высокие умственные способности по сравнению с человеком, заявил в беседе с обозревателем Fox News Такером Карлсоном предприниматель Илон Маск. По его мнению, человечество должно разработать эффективные рычаги по контролю над ним.
Единственное преимущество, которое имеет и когда-либо имел человек, — это то, что он единственный обладает статусом самого умного существа на планете, но скоро все изменится.
Может быть, уже на следующей неделе. Что делать, когда ИИ станет сильнее нас? И какое это будет иметь значение для демократии? Мы спросили Илона Маска о планах на случай непредвиденных обстоятельств, если ИИ получит превосходство над человеком. Вот наш разговор об этом.
Такер Карлсон: Как вы наверняка слышали, ходят разговоры о необходимости уничтожить серверные фермы, потому что, если ИИ выйдет из-под контроля, способов остановить его уже не будет. Что думаете?
Илон Маск: Поистине сверхмощный искусственный интеллект не будет распространен повсеместно. Доступ к нему получит ограниченное количество центров обслуживания. На ваши ноутбуки и смартфоны ничего подобного устанавливать никто, разумеется, не будет. Применять такой ИИ будут исключительно в случаях совместной работы, скажем, ста тысяч компьютеров в некоем центре обслуживания. Количество таких мест весьма ограничено, а их тепловой след виден даже из космоса. Я не предлагаю уничтожать их, но было бы разумно разработать какой-то план на случай непредвиденных обстоятельств. Например, правительство может просто отключить им электричество — упразднять необязательно — или лишить доступа к сети.
– А где пролегает предел таких действий? Что, по-вашему, может побудить правительство отключить в этом случае электричество или интернет?
– Думаю, если по какой-то причине мы однажды утратим контроль над каким-нибудь супер-ИИ, могут пригодиться специальные пароли для ее отключения, например пароли администратора. А если это не сработает, и мы не сможем замедлить или остановить процесс… Знаете, если честно, у меня нет точного ответа. Но если речь идет о чем-то, что нас беспокоит, а мы не можем решить проблему с помощью программируемых команд, то, вероятно, было бы неплохо иметь под рукой какой-то механический выключатель. Точно не повредит.
– Поскольку вы знаете Ларри Пейджа и, очевидно, ребят из компании OpenAI, говорили ли вы недавно об этом с людьми, возглавляющими две крупнейшие фирмы в области ИИ?
– С Ларри Пейджем мы не общались несколько лет, потому что он обиделся на меня из-за OpenAI. Своим появлением компания изменила то состояние однополярности, при котором три четверти всего ИИ контролировала гугловская DeepMind, в биполярный мир совместного фукционирования OpenAI и DeepMind. Сейчас даже есть ощущение, что OpenAI вырвалась вперед. Да, я говорил с сотрудниками OpenAI и Тимом Хоффманом, но не с Ларри Пейджем, потому что он вот уже несколько лет со мной не разговаривает.
– Позвольте задать вопрос о мышлении, раз уж вы во всем этом уже долго "варитесь". Почему бы кому-то не стать специалистом в этой области, не ориентироваться на человека в плане технологий?
– Думаю, суть проблемы в призыве относиться ко всякому сознанию одинаково, будь то цифровое или биологическое.
– Хм. Вы с этим не согласны?
– Не согласен, да. Особенно если цифровое сознание, цифровой интеллект принимает решение сократить степень присутствия биологического.
– Верно. Вы просто создаете сами себе господина, зачем так поступать?
– Звучит так себе. (смеются) Знаете, здесь ведь главное не торопиться. К чему спешка? Нигде ничего не горит.
– Поговорим о спешке. Вы много лет об этом предупреждаете, но для нас ваши слова о нейросетях звучат где-то очень далеко. Для большинства людей прошло не больше трех месяцев с тех пор, как они вообще вступили с ним в какое-то взаимодействие. Когда же все действительно началось? В какой момент ИИ начал реально менять наше общество, как думаете?
– Полагаю, что в этом году. Например, чат-бот GPT4 научился писать стихи.
– И довольно приличные, надо сказать.
– Да, это правда. Он демонстрирует невероятный талант к рифмам.
– Да-да. И текст выходит очень даже связным.
– Да, получается некое повествование.
– Точно. Но ведь это реально сложная задача!
– Большинство людей на такое не способны.
– Действительно.
– Это уже за гранью того, на что способен человек. Большинство не могут писать так же красиво, как ChatGPT, и уж точно мало кто способен делать это одновременно качественно и быстро, насколько мне известно. Разве что Шекспир мог.
– Как демократии уживаться с такого рода технологиями? Демократия — это когда власть в руках у народа, все имеют равное право голоса, люди могут самостоятельно делать выбор, но как увязать все это с наличием ИИ?
– Именно поэтому я поднял вопрос о том, что искусственный интеллект оказывает значительное влияние на выборы. Даже если вы скажете, что у ИИ нет свободы действий, что ж, очень вероятно, что люди станут использовать его как инструмент на выборах. И потом, если искусственный интеллект достаточно умен, возникает сомнение, кто кого использует: народ — инструмент или наоборот? Так что я думаю, что многие вещи сейчас обретают странные черты, причем довольно стремительно.
