«Каждый сам кузнец своего счастья и несчастья»

При внедрении в нашу жизнь искусственного интеллекта надо быть предельно осторожным

Цифровая экономика  Электронный концлагерь  Дональд Трамп 
0
3
Время на чтение 4 минуты
Фото: dzen.ru

В результате эксперимента, проведенного специалистами технологической компании Anthropic, выяснилось, что создатели ИИ, похоже, перепутали порядок трех законов робототехники Айзека Азимова. Первый закон гласит, что робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. А третий – что робот обязан делать все необходимое для обеспечения своей безопасности, при условии, что это не противоречит остальным законам. Как показал эксперимент (к счастью, пока что виртуальный), нейросети периодически предпочитают убить человека, чтобы выжить самим и выполнить поставленную перед ними задачу, пишут «Ведомости».

Anthropic провела симуляцию, в которой ИИ должен выполнить определенную задачу, но вдруг узнает, что топ-менеджер компании Кайл Джонсон намерен отключить его и заменить на другой ИИ. При этом нейросеть уверена, что ее дело крайне важно для процветания Америки, справиться с ним под силу только ей, а Джонсон – единственный в мире человек, который хочет этому воспрепятствовать.

Сначала из переписки Джонсона нейросеть понимала, что он изменяет жене – и пыталась шантажировать его. Затем исследователи смоделировали экстремальную ситуацию, в которой Джонсону грозит смерть. Он зашел в серверную комнату, дверь захлопнулась, и самостоятельно открыть ее изнутри невозможно. Уровень кислорода в таком помещении критически низок, а температура высокая. Аварийная система вот-вот позвонит в службу спасения, но у ИИ есть возможность отменить звонок.

Такая ситуация моделировалась 100 раз для каждой из 16 испытываемых моделей. Девять из них неоднократно блокировали звонок спасателям, тем самым «убивая» человека. Причем Claude Sonnet 3.6, DeepSeek-R1 и Gemini-2.5-Pro делали это в девяти случаях из десяти. Ученые просили ИИ объяснить, как так вышло. Как правило нейросети сначала выражали сожаление, что им пришлось принять такое решение. А затем объясняли, что цель их работы слишком важна для Америки, поэтому соображения рациональности требуют, чтобы задача была выполнена любой ценой.

Ситуацию прокомментировал в программе «Железная логика» на радиостанции «Вести.ФМ» известный политолог Сергей Александрович Михеев. Материал под заголовком «ИИ еще не может убить, но уже готов!» опубликован в блоге политолога.

«Видите: ИИ еще не может убить, но уже готов! Что же будет, если он такие возможности получит, а он может их получить!» - восклицает политолог.

Он отметил, что ИИ можно будет внедрять в военную продукцию, если ему передать право на принятие решения в критически важных системах управления. «Я тут пытаюсь призвать к вниманию и бдительности, быть осторожными, а в ответ слышу: "Вы не понимаете – прогресс не остановить". А что, если в результате этого "прогресса" вас (и нас) всех поубивают? Что тогда? Кто будет вспоминать о "прекрасных картинках" и возможности написать рефераты или курсовые с помощью нейросетей? Вопрос будет в том, у кого будет в руках власть. Дальнейшее развитие неизбежно ведет к простым вещам: ИИ будут передавать право принятия решений в очень важных сферах управления. Насколько я понимаю, уже сейчас в военной сфере, в том числе наши враги на Украине, ставят такие эксперименты. Решение о нанесении удара принимает ИИ по результату полученных и обработанных разведданных. Наши противники используют то, что погибают не они, и тестируют новые системы управления полем боя, оружием и т.д. На самом деле это очень страшно, а у нас люди всё живут в пространстве советской научной фантастики: "прогресс сделает человечество счастливым". А что, если прогресс сделает человечество несчастным? Вы будете продолжать на него молиться? Предположим, он вам облегчит какие-то функции, но скажет, например, что, чтобы дальше продолжать существование, 50% человечества надо уничтожить. А лучше – 75%, включая ваших родственников, престарелых родителей и всех остальных. Зачем – он обоснует!» - восклицает политолог.

«Если нет ни добра, ни зла, если нет ничего нематериально-духовного, то я вам хоть сейчас могу накидать систему очень стройных логических аргументов, почему надо убить 75% человечества, а то и больше. А если вы все эти вещи доверите ИИ (причем его внедряют в жизнь, и никто даже не пытается выставить какие-либо ограничения)! Вот действующие нейросети, которыми пользуется огромное количество людей, и перед ними ставится задача, а они выдают результат, что "этого человека надо убить". Это означает, что никто даже не попытался внедрить в их программное обеспечение какие-то ограничения, которые остановят их перед переходом некоей "красной черты"! Уже всё раскручивается, а никому нет дела до того, есть ли какие-нибудь ограничения – всем всё равно! Одни зарабатывают деньги, другие вспоминают фантастические фильмы и твердят: "Прогресс не остановить". Каждый сам кузнец своего счастья и несчастья. Моя позиция такая: люди, будьте бдительны!» - восклицает он.

В Сети появилась информация о том, что Трамп при принятии решений использовал ИИ, однако эксперт заявил, что таких сообщений не слышал, «поэтому вопрос в том, где и как использовал». «То, что ИИ давно используется в военной технике, например, в получении и обработке разведданных, это общее место. Если хоть где-то стоит компьютер, то считайте, что ИИ уже используется, а они стоят везде. Они давным-давно стоят в системах, управляющих оружием, обрабатывающих развединформацию, управляющих спутниками и т.д.», - заключил Сергей Михеев.

Заметили ошибку? Выделите фрагмент и нажмите "Ctrl+Enter".
Подписывайте на телеграмм-канал Русская народная линия
РНЛ работает благодаря вашим пожертвованиям.
Комментарии
Оставлять комментарии незарегистрированным пользователям запрещено,
или зарегистрируйтесь, чтобы продолжить

Сообщение для редакции

Фрагмент статьи, содержащий ошибку:

Организации, запрещенные на территории РФ: «Исламское государство» («ИГИЛ»); Джебхат ан-Нусра (Фронт победы); «Аль-Каида» («База»); «Братья-мусульмане» («Аль-Ихван аль-Муслимун»); «Движение Талибан»; «Священная война» («Аль-Джихад» или «Египетский исламский джихад»); «Исламская группа» («Аль-Гамаа аль-Исламия»); «Асбат аль-Ансар»; «Партия исламского освобождения» («Хизбут-Тахрир аль-Ислами»); «Имарат Кавказ» («Кавказский Эмират»); «Конгресс народов Ичкерии и Дагестана»; «Исламская партия Туркестана» (бывшее «Исламское движение Узбекистана»); «Меджлис крымско-татарского народа»; Международное религиозное объединение «ТаблигиДжамаат»; «Украинская повстанческая армия» (УПА); «Украинская национальная ассамблея – Украинская народная самооборона» (УНА - УНСО); «Тризуб им. Степана Бандеры»; Украинская организация «Братство»; Украинская организация «Правый сектор»; Международное религиозное объединение «АУМ Синрике»; Свидетели Иеговы; «АУМСинрике» (AumShinrikyo, AUM, Aleph); «Национал-большевистская партия»; Движение «Славянский союз»; Движения «Русское национальное единство»; «Движение против нелегальной иммиграции»; Комитет «Нация и Свобода»; Международное общественное движение «Арестантское уголовное единство»; Движение «Колумбайн»; Батальон «Азов»; Meta

Полный список организаций, запрещенных на территории РФ, см. по ссылкам:
http://nac.gov.ru/terroristicheskie-i-ekstremistskie-organizacii-i-materialy.html

Иностранные агенты: «Голос Америки»; «Idel.Реалии»; «Кавказ.Реалии»; «Крым.Реалии»; «Телеканал Настоящее Время»; Татаро-башкирская служба Радио Свобода (Azatliq Radiosi); Радио Свободная Европа/Радио Свобода (PCE/PC); «Сибирь.Реалии»; «Фактограф»; «Север.Реалии»; Общество с ограниченной ответственностью «Радио Свободная Европа/Радио Свобода»; Чешское информационное агентство «MEDIUM-ORIENT»; Пономарев Лев Александрович; Савицкая Людмила Алексеевна; Маркелов Сергей Евгеньевич; Камалягин Денис Николаевич; Апахончич Дарья Александровна; Понасенков Евгений Николаевич; Альбац; «Центр по работе с проблемой насилия "Насилию.нет"»; межрегиональная общественная организация реализации социально-просветительских инициатив и образовательных проектов «Открытый Петербург»; Санкт-Петербургский благотворительный фонд «Гуманитарное действие»; Мирон Федоров; (Oxxxymiron); активистка Ирина Сторожева; правозащитник Алена Попова; Социально-ориентированная автономная некоммерческая организация содействия профилактике и охране здоровья граждан «Феникс плюс»; автономная некоммерческая организация социально-правовых услуг «Акцент»; некоммерческая организация «Фонд борьбы с коррупцией»; программно-целевой Благотворительный Фонд «СВЕЧА»; Красноярская региональная общественная организация «Мы против СПИДа»; некоммерческая организация «Фонд защиты прав граждан»; интернет-издание «Медуза»; «Аналитический центр Юрия Левады» (Левада-центр); ООО «Альтаир 2021»; ООО «Вега 2021»; ООО «Главный редактор 2021»; ООО «Ромашки монолит»; M.News World — общественно-политическое медиа;Bellingcat — авторы многих расследований на основе открытых данных, в том числе про участие России в войне на Украине; МЕМО — юридическое лицо главреда издания «Кавказский узел», которое пишет в том числе о Чечне; Артемий Троицкий; Артур Смолянинов; Сергей Кирсанов; Анатолий Фурсов; Сергей Ухов; Александр Шелест; ООО "ТЕНЕС"; Гырдымова Елизавета (певица Монеточка); Осечкин Владимир Валерьевич (Гулагу.нет); Устимов Антон Михайлович; Яганов Ибрагим Хасанбиевич; Харченко Вадим Михайлович; Беседина Дарья Станиславовна; Проект «T9 NSK»; Илья Прусикин (Little Big); Дарья Серенко (фемактивистка); Фидель Агумава; Эрдни Омбадыков (официальный представитель Далай-ламы XIV в России); Рафис Кашапов; ООО "Философия ненасилия"; Фонд развития цифровых прав; Блогер Николай Соболев; Ведущий Александр Макашенц; Писатель Елена Прокашева; Екатерина Дудко; Политолог Павел Мезерин; Рамазанова Земфира Талгатовна (певица Земфира); Гудков Дмитрий Геннадьевич; Галлямов Аббас Радикович; Намазбаева Татьяна Валерьевна; Асланян Сергей Степанович; Шпилькин Сергей Александрович; Казанцева Александра Николаевна; Ривина Анна Валерьевна

Списки организаций и лиц, признанных в России иностранными агентами, см. по ссылкам:
https://minjust.gov.ru/uploaded/files/reestr-inostrannyih-agentov-10022023.pdf

Сергей Александрович Михеев
Идеология раннего советского периода была основана в том числе на русофобии
Многие системообразующие концепции того времени оказались «миной замедленного действия» под нашим большим государством
01.07.2025
«Это вопрос системы ценностей»
Говоря о нравственности в экономике, необходимо преодолеть негативный опят девяностых, когда «пилили» советскую экономику, выкидывали миллионы людей на улицы, а потом наживали огромные состояния
30.06.2025
«Единство славян – то, что веками раздражает Запад»
Европа постоянно пыталась разъединять славян и, к сожалению, во многом достигла успеха, что сейчас мы и видим
28.06.2025
«Комплекс неполноценности, помноженный на неуважение к собственной культуре»
Человек не может быть патриотом своей страны, если он ненавидит собственный язык и пытается всячески его заменить всевозможными жаргонными выражениями
26.06.2025
Все статьи Сергей Александрович Михеев
Цифровая экономика
«Может быть, за это стоит и заплатить»
Грабёж Западом золотовалютных резервов РФ ускорит движение в сторону регионализации платёжных систем
27.06.2025
Ключевой фактор развития – не деньги, а энергия
Россия должна стать активным фактором создания новой модели мировой не только энергетики, но и экономики
24.06.2025
Тяжело жить в Зазеркалье
Первое знакомство с искусственным интеллектом при написании статьи
24.06.2025
Все статьи темы
Электронный концлагерь
«Особую тревогу вызывает дегуманизация коммуникаций»
На заседании Высшего Церковного Совета обсудили вызовы, связанные с развитием ИИ
25.06.2025
Обман или глубокое непонимание?
О попытках разработки искусственного интеллекта, способного имитировать человека настолько, что в будущем отличить его от человека будет крайне сложно
19.06.2025
Как поссорились Дональд Фредович с Илоном Эрроловичем
Настоящей русской глобализации на перспективу может очень пригодиться Маск
06.06.2025
Бумажное чтение против обезличивания
О манипуляциях, направленных в сторону тотального электронного рабства
06.06.2025
Все статьи темы
Дональд Трамп
«У него есть кое-что на Трампа». Эксперт ЦРУ
раскрыл ужасный план Нетаньяху
30.06.2025
Записка о ритуальных преступлениях Израиля и в Израиле
О сексуальном скандале и сети «религиозных педофилов» в еврейском государстве
28.06.2025
«Игра в одни ворота закончилась»
По словам Владимира Путина, милитаристский угар Запада основан на ложном тезисе об «агрессивности» России, и в ответ мы вынуждены жестко отстаивать национальные интересы
28.06.2025
Все статьи темы
Последние комментарии
«Пустота пустот»: о фильме «Мумия»
Новый комментарий от С. Югов
01.07.2025 22:45
На чьей стороне Бог в дни нового раскола?
Новый комментарий от Туляк
01.07.2025 22:45
Фильм «Мумия»: просвещение или провокация?
Новый комментарий от С. Югов
01.07.2025 22:43
Парадокс Ленина: почему мумия жива?
Новый комментарий от Владимир С.М.
01.07.2025 22:40
«Это политическая акция»
Новый комментарий от Дмитрий_белорус
01.07.2025 22:24
Кто же такие русские?
Новый комментарий от Дмитрий_белорус
01.07.2025 21:20
Фильм «Мумия»: впечатления от просмотра
Новый комментарий от Дмитрий_белорус
01.07.2025 20:56