В конце сентября на Алтае произошел примечательный случай: лжесообщения получили десятки контактов жительницы Барнаула Марины Василенко. В посланиях был её голос, хотя девушка ничего не отправляла. Пять человек откликнулись на просьбу и на неизвестную карту отправили суммарно свыше 100 тыс. рублей, сообщают Вести-Алтай.
Мошенники взломали телеграм-аккаунт Марины. Нашли в диалогах видео и голосовые сообщения. С помощью искусственного интеллекта создали новые с нужным им текстом. Давние друзья и родственники ничего заподозрили. Ведь услышали не только знакомый голос, так ещё и получили видеосообщение от девушки.
Марина написала заявление в полицию. В Алтайском крае это первый в истории зарегистрированный случай мошенничества с использованием нейросетей.
Учёные говорят: раньше, чтобы подделать голос и создать дипфейк, то есть видео с чужим лицом, требовалось несколько дней, сегодня это займёт не больше минуты. Причём распознать лжесообщения практически невозможно.
Полицейские предупреждают: здесь поможет только личный звонок человеку, который просит занять денег. Нужно быть бдительным и при получении обычных текстовых сообщений. Эти схемы давно известны, но, к сожалению, хорошо работают.
В этом году жители Алтайского края от действий мошенников в сфере информационных технологий уже потеряли свыше миллиарда рублей.
Ситуацию прокомментировал в телефонном интервью «Русской народной линии» адвокат Александр Валентинович Тимофеев:
В православном сообществе отношение к искусственному интеллекту всегда было настороженным и даже враждебным. Хотя в последнее время я наблюдаю на православных ресурсах дискуссии, в которых приводятся доводы и в пользу искусственного интеллекта, де, ИИ освобождает людей от необходимости самим совершать рутинные действия. Действительно, это величайшее достижение человечества. Однако таящиеся опасности от ИИ значительнее указанного достижения.
Случай на Алтае ярко демонстрирует опасность искусственного интеллекта. В условиях современного общества, в котором широко распространены информационные технологии, из практики взаимодействия людей исчезает непосредственное живое личное общение. Люди всё чаще и чаще общаются посредством технологий, видео или аудио. Общение становится обезличенным и даже обесчеловеченным.
Деградация человеческого общения началась ещё в ХХ веке с появлением телевизора и телефона. Постепенно утрачивалась культура общения через письма. При изучении литературы XIX века я восхищался перепиской писателей со знакомыми людьми. Поражал высочайший художественный уровень писем не только великих писателей, но их собеседников по письму. Люди настолько красочно и художественно выражали свои мысли и чувства, что впечатление было глубочайшим!
С изобретением современных устройств и появлением виртуальной реальности процесс отчуждения людей друг от друга ускорился, непосредственная связь между ними ослабла. Ныне непосредственное живое общение подменяется искусственным интеллектом, причем, как показывает случай в Алтае, ИИ способен имитировать общение настолько точно, что даже близкий человек не может отличить своего знакомого от искусственного интеллекта. Со временем технологии, очевидно, достигнут некоего предела, когда утратится какая-либо возможность отличить ИИ от настоящего человека.
Несколько лет назад российский сегмент Интернета был взбудоражен новостью в Китае: впервые в истории новостную программу провёл искусственный интеллект в образе человека, а сотни тысяч телезрителей так и не поняли, что перед ними был не настоящий телеведущий, а искусственный интеллект.
Отпала необходимость в письмах. Ныне принято ограничиваться короткими сообщениями, ссылаясь на занятость и нехватку времени. Сужение поля непосредственного общения привело к скудоумию, топорности речи и письма. Большие тексты воспринимаются с трудом. Красивая насыщенная смыслами речь тяготит. Люди отказывают друг другу в индивидуальности выражения собственных мыслей и чувств! Письмо стало настолько однообразным и безликим, что его подделка с помощью ИИ не представляет трудности.
Люди порабощены гаджетами, простое живое человеческое общение уже не считается богатством.
Деградация прогрессирует. Утрачивается способность распознавать человеческие эмоции. В XIX веке писались великие художественные произведения, возможно, потому, что в то время люди имели опыт непосредственного личного общения, который вырабатывал в них навык распознавать тончайшие чувства и мысли других людей. Теперь же не каждый способен отличить живого человека со своей неповторимой душой от бездушного искусственного интеллекта!
Мошенники воспользовались всеобщей утратой способности к живому общению, и обезличенностью речи, и неумением распознавать индивидуальную неповторимость каждого конкретного человека.
По официальной статистике кража по-прежнему считается самым распространённым преступлением в России. Однако криминалисты полагают, что давно уже на первое место вышло мошенничество и прежде всего кибермошенничество, то есть преступление, совершенное посредством новых технологий и искусственного интеллекта.
Предлагается несколько методов борьбы с этим злом.
Первый — приобретение навыка распознавания мошенников.
Этот путь, на мой взгляд, тупиковый. Мошенники, как правило, – одаренные люди, владеющие специфическими талантами и навыками, обладающие большими познаниями, в том числе в информатике и праве, поэтому они всегда будут на шаг впереди большей части народа. Никогда большинство населения, в том числе с помощью курса по финансовой грамотности, по своим знаниям и навыкам не превзойдут мошенников.
Второй — воспитание «здорового» эгоизма через отказ от помощи ближним.
Весьма опасное предложение, вероятно, инспирированное самим дьяволом, отцом лжи, стремящимся разобщить людей. Следование таким путём отдалит людей друг от друга, отучит от сострадания и делания добрых дел. Помогать ближнему надо, но, как и кому? Совет очень простой: больше общайтесь! Встречайтесь! Говорите друг с другом! Слушайте друг друга! Живое общение спасёт от хитрых уловок дьявола и ведомых им мошенников.
На мой взгляд, печальная тенденция сохранится. Мы в своих тщетных попытках сэкономить время и силы осознанно ограничиваем себя в живом общении, а расплатой становится утрата имущества, а иногда и средств существования.
Кибермошенничество есть наказание за повальный отказ от непосредственного живого общения! Закономерное последствие замены личного общения виртуальным.
К сожалению, государство не осознало всю остроту проблемы мошенничества: ни криминалистика, ни правоохранительные органы, в том числе суды, должным образом не реагируют на эпидемию мошенничества.
Случай на Алтае примечателен для православного человека, ибо показывает гибельные последствия отказа от личного общения. Дьявол – отец лжи. И ложь находится в основе многих грехов и страстей. Путь ко спасению заключён в религиозном опыте, а не в одном лишь умозрении. Православные христиане совершают ежедневное молитвенное делание, принимают участие в молитвенном общении, в святых церковных таинствах. Недавний случай с использованием ИИ вместо священника – суррогат религиозного опыта.
Единственным действенным способом борьбы с мошенничеством может стать восстановление практики и опыта непосредственного личного общения! Иных эффективных средств не вижу!
8. Ответ на 7, Тимофеев Александр :
Может, напишите заметку и о "хитрых пунктах" из комм. 6?
7. Ответ на 5, Андрей Карпов:
Также постараюсь опровергнуть два популярных заблуждений. Первое, согласно которому жертвы мошенников – это в основном престарелые, алкоголики и слабоумные. Второе, согласно которому жертвами движет преимущественно корысть.
6. Ответ на 4, Ленчик:
Отмена наличных денег, действительно, - один из первых шагов по созданию электронного концлагеря. С помощью безналичных расчетов можно контролировать население, «наказывать», лишая доступ к деньгам. Но и наличные деньги таят угрозы. Расчёты наличными не всегда оставляют следы, а ещё хуже, отсутствие таких расчётов ещё не гарантирует наличие «доказательств» того, что расчёты якобы имели место быть.
Приведу один пример. В последнее время участились мошеннические преступления, совершённые путём включения в договор хитрых пунктов, например такого: расчёты совершены до подписания договора.
Расчёт делается на легкомысленное отношение наших людей к подписанию договора как к «пустой формальности», на отсутствие привычки читать договор перед его подписанием, наконец, на их правовую безграмотность… и т.д. и т.п. Продавцы, подписавшие такой договор и, разумеется, в действительности не получившие денег до его подписания, остаются без проданной вещи (чаще речь идёт о квартире) и без денег. И таких продавцов – множество. И в судах такие горе-продавцы не находят справедливости…
5.
4.
3. Ответ на 2, Тимофеев Александр :
Деградация человеческого общения началась ещё в ХХ веке с появлением телевизора и телефона. Постепенно утрачивалась культура общения через письма. При изучении литературы XIX века я восхищался перепиской писателей со знакомыми людьми. Поражал высочайший художественный уровень писем не только великих писателей, но их собеседников по письму. Люди настолько красочно и художественно выражали свои мысли и чувства, что впечатление было глубочайшим!
Для меня в первую очередь об этом, потом про остальное. Вспоминаю чью-то мысль о том, что во времена, условно, прп. Сергия подвижники совершали путешествия по полгода, чтобы побеседовать друг с другом или переписывались с неменьшими паузами, соответсвенно, и цена слова была несоизмеримо с нашими временами смартфонов, СМС-ок и смайликов высока.
Утешает, что есть понимающие это неравнодушные люди и (нет худа без добра!) с помощью и-нета без малого пара сотен человек познакомились с Вашей статьëй. Так что, спасибо Вам!
2. Ответ на 1, Владимир С.М.:
1.