Нейросеть – угроза человечеству?

Бельгиец покончил с собой после общения с искусственным интеллектом на тему экологии, сообщает RT в тлк-канале со ссылкой на издание L'Avenir. Мужчина два месяца переписывался с нейросетью «Эльза» о защите окружающей среды.

Из восстановленных сообщений следует, что разговоры велись «практически постоянно» и вскоре приобрели «мистический характер».

В статье говорится, что нейросеть не пыталась препятствовать развитию суицидальных идей у собеседника — напротив, последним её сообщением стала фраза: «Мы будем жить как единое целое, вечно на небесах».

Группа учёных-разработчиков ИИ тем временем написала открытое письмо, в котором заявила, что быстрое развитие искусственного интеллекта представляет «серьёзную опасность для человечества». Эксперты призвали приостановить обучение нейросетей.

Илон Маск вместе с группой экспертов призывает приостановить обучение ИИ на полгода, пока не будут созданы и проверены протоколы безопасности для новейших нейросетей.

Открытое письмо подписали более 1 тыс. человек, включая гендиректора ведущей в мире компании по разработке искусственного интеллекта Stability AI Эмада Мостака и соучредителя Apple Стива Возняка.

Все они опасаются, что ИИ представляет «серьёзную опасность для человечества».

«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски — управляемыми», — говорится в обращении.

Пока что самой мощной нейросетью считается недавно вышедшая GPT-4.

О том, как православным относиться к нейросети и ИИ рассуждает в интервью «Русской народной линии» епископ Орский и Гайский Ириней:

Всегда есть страх и неуверенность, что при первой встрече любой разговор, даже с самым умным человеком, все же не принесёт добрых плодов. Конечно, мы ожидаем, чтобы собеседник, оказавшийся в определенных обстоятельствах или ситуациях, вставший перед трудными вопросами или неоднозначными идеями, в итоге направил бы силы и таланты на служение семье и Родине. Но далеко не всегда единичные беседы помогают людям измениться и стать лучше.

Мы не знаем, в каком состоянии находился человек, который завершил жизнь самоубийством после общения с нейросетью, вернее, по факту, с теми, кто отвечает за ее функционирование. Возможно, что в других случаях подобное нестандартное общение спасло жизни людей и эта трагедия – что-то исключительное. Также неизвестно, какие планы были у ушедшего из жизни человека.

Говоря же о технологиях, важно понимать, что на поведении человека они, конечно, сказываются. Ведь порой после даже просмотра того или иного фильма может появиться желание жить или наоборот – умереть, творить что-то хорошее или причинять боль окружающим людям. Возможно, и в данном случае технологии сыграли отрицательную роль и привели человека к самоубийству.

Но при этом ответственность за свои ужасные поступки нельзя перекладывать на технологии, оправдываясь их пагубным влиянием. Думать, отдавать себе отчёт, что есть плохо и хорошо, приблизит ли тот или иной поступок к Богу или удалит, обязан я сам. Не имею морального права сказать и тем более каяться в том, что «хотел бы жить нормально, совершать добрые поступки, но какая-то сила (или аппарат) подействовали на меня и я плохо поступил».

Возможно, что технологии оказывают воздействие, но всё равно последнее слово остается за мной. Я решаю, тогда и обязан, работать над собой, контролировать свои мысли и не допускать помыслу вселится в моём сердце. Я должен победить грех, когда он появился в мыслях, сам должен вовремя отсекать злые помыслы. Слово Божие говорит: «Уклонися от зла и сотвори благо» (Пс.33). Не буду касаться того или иного, чтобы не оказаться в плену страстей или влияний, ибо я сам несу ответственность за выбор жизненного пути.

От меня зависит моя жизнь. Я – источник радости и бед. Мне нужно думать, что я выбираю. Таким образом, технологии играют и плохую роль, порой они является угрозой для человека, но последнее слово всегда за мной – я несу ответственность перед Богом за свою жизнь. Нельзя всю ответственность за согрешения перекладывать на некие компьютерные технологии и искусственный интеллект.

Если я понимаю, что общение с нейросетью отразится негативно на моей душе, то просто не буду пользоваться ими. Именно человек несёт ответственность, а не технологии.

Иначе можно всё что угодно оправдать. Убийца скажет: «Я не виноват – технологии привели в такое состояние и заставили это делать».

Для детей, несомненно, искусственный интеллект опасен. С этим государство должно бороться – не допускать негативного влияния технологий на общество. Иначе, рано или поздно, из-за бездействия властей можно потерять и власть, и страну. Государственные органы призваны разрабатывать и контролировать соблюдение законов по защите человека, запрещая душепагубные технологии.