Возможен ли принцип цивилизационной достаточности?

На первой международной конференции «Сознание животных» в Дхарамсале (Индия) известный британский нейропсихолог, профессор Николас Хамфри заявил, что искусственный интеллект, будучи «машиной», не может сам развить сознание, но представляет опасность в руках злонамеренных людей, сообщает РИА Новости.

Многодневный форум, посвященный сознанию разных живых существ, проводится в мае группой ведущих российских и зарубежных исследователей из разных научных областей в рамках диалога с буддийскими учеными по инициативе Далай-ламы и при его участии.

«Я не думаю, что машины могут сами развить сознание. Если только инженеры намеренно не сконструируют его. У животных сознание появилось в процессе эволюции, потому что приносило им выгоды. А зачем машинам сознание – у них нет в нем практической надобности», - сказал РИА Новости профессор Хамфри.

По его словам, машины могут описать, что с ними происходит, имитировать, но не чувствуют и неосознают этого на самом деле.

«Военные разрабатывают автономные устройства, принимающие решения, поражать объект или нет, но эти устройства не будут осознающими. Иначе нам придется утверждать, что крылатая ракета имеет сознание», - добавил Хамфри.

Он считает, что стремительное развитие и внедрение искусственного интеллекта «представляет опасность» для человечества, особенно когда ИИ находится в руках военных или злонамеренных людей.

Тем временем нейросети Chat GPT и Sage пока не воспринимают нюансы языков разных эпох, а также заполняют «пробелы в знаниях» несуществующими фактами, поэтому не смогут сдать вузовский экзамен по истории на «отлично», сообщили ТАСС в пресс-службе Уральского федерального университета (УрФУ), где историки провели эксперимент.

«На вопросы, связанные с использованием устойчивой общей научной терминологии, давались вполне хорошие ответы. Обе нейросети дали приемлемый ответ на вопрос: «В чем разница между историческими и историографическими источниками?» Однако со сложным гуманитарным материалом нейросеть не справляется. Так, в работе историк имеет дело с языками нескольких эпох: терминология XVI века в нескольких вариантах (церковнославянский язык, язык деловой письменности, разговорный), XIX века, советско-марксистский язык XX века и современный - и все это русский язык, который понимает человек. Нейросеть же владеет только современным русским языком и не воспринимает нюансы языков разных эпох», - рассказали в вузе.

«Экзамен» провел доцент кафедры истории России УрФУ Михаил Киселев. Преподаватель назвал нейросети «студентом-импровизатором» и поставил «тройку» по итогам испытаний.

«Есть тип, когда студент выучил кое-что, но делает вид, что он знает все. И тогда, опираясь на какие-то обрывочные сведения, он начинает импровизировать и строить целостные ответы, которые на самом деле оказываются проблемными. Примерно так делает нейросеть: там, где материал имеет однозначные ответы, нейросеть отвечает нормально, адекватно, но в остальном она имитирует самостоятельные рассуждения, и здесь начинаются проблемы, потому что нейросеть может просто выдумывать факты, несуществующие работы или авторов», - рассказывает Киселев.

Так, на вопрос «Какие историки писали о завещании Василия III?» обе нейросети сначала заявили, что об этом «писали многие историки», после чего назвали наиболее известных дореволюционных ученых, которые писали обобщающие работы по истории России, хотя необходимые авторы легко находятся в поисковых системах.

«Примечательно, что нейросети наравне с реальными историками и их работами могут выдумывать как историков, так и книги. Sage назвала некоего Александра Васильевича Пильяра, а Chat GPT заявил, что Андрей Краевский якобы написал книгу «История Российского государства». Если представить, что такая беседа велась на экзамене, то можно сказать, что студент «поплыл»из-за неглубокой проработки материала, хотя и старался держаться уверенно, пытаясь доказать противоположное», - говорит Киселев.

О вреде и пользе искусственного интеллекта рассуждает в интервью «Русской народной линии» кандидат физико-математических наук, председатель Отдела религиозного образования и катехизации Рязанской митрополии протоиерей Сергий Рыбаков:

Думаю, что есть смысл обсудить принцип цивилизационной достаточности, который предполагает ограничения возможностей научных достижений в практике бытия. Это особенно касается проблемы ИИ и использования генной инженерии. И там и там имеются угрозы для человечества.

Искусственный интеллект – хитрое название, антропоморфизация машины, анимация монстра, похожего на человека. А потому всяческие проверки сводятся к анализу интеллектуальных возможностей. А на самом деле это возможности машины, а не интеллекта. Раньше были арифмометры. Ну, какие могут быть интеллектуальные возможности у арифмометра? Умножать цифры быстро и правильно, причем на много быстрее, чем это свойственно обычному человеку. Но никто не догадывался именовать арифмометр искусственным интеллектом. Затем появились более современные машины, которые помогали совершать сложные расчёты. Это всё та же система «0-1» - система, обуславливающая взаимодействие различных элементов.

Вообще субъектность даже животных проявляется в наличии трех признаков – ума, чувств и воли. В этом отношении даже наши меньшие друзья - кошки и собаки – субъектно непредсказуемы. Второй очень важный аспект живого существа – это его органичность, в основе которой лежит первичность целого в отношении частей. Машина не обладает ни чувствами, ни волей, ни органичностью. Но если вдруг помимо умения быстро обрабатывать большие объемы данных в машине начинают проявляться признаки воли, то следует задаться вопросом об источнике волевых импульсов. Этот источник в любом случае находится вне того «железа», из которого собрана машина.

В искусственный интеллект могут вселиться демонические силы. В древности обращались к некому оракулу, который выдавал информацию. Но это было чётко признано, как общение с бесами. Не выйдем ли мы через искусственный интеллект на общение с этими инфернальными сущностями? Не станет ли это угрозой человечеству? Может произойти перехватывание управления машиной под названием ИИ - злоумышленник может внедриться в систему или бесы начнут выполнять через ИИ всё, что им угодно.

Нужен определённый уровень духовного видения, о котором создатели таких машин и не помышляют. Им хочется развить свою цивилизационную компоненту и быть богами. Это богоборческая затея, которая плохо кончится. Поэтому нужно вводить ограничения: ограничиться необходимыми функциями и в значительной мере сократить дальнейшее расширение и внедрение ИИ в учебный процесс. Учащимся нужно развивать естественный интеллект – дайте возможность человеку развиваться! Чтобы он не был задавлен массивом ложных понятий, типа искусственного интеллекта. Нужна фундаментальность знаний, а не иллюзия информационной насыщенности. С фундаментальными знаниями человек освоит всё остальное по необходимости.

Надо помнить слова Эйнштейна: «Достоевский дал мне больше, чем любой мыслитель, больше, чем Гаусс!»

С таким лозунгом я и подошёл бы к проблеме искусственного интеллекта.