Оригинальное название:
A Tool by Any Other Name
Графика: Джеймс Гриллс (Wikimedia Commons)
Майкл Ларсон - заместитель редактора Chronicles. Он автор двух сборников стихов: Что бы мы хотели знать и сборника глав "Оставшийся свет". Его рассказы, стихи и эссе появлялись во множестве журналов.
Чат-боты не имеют политических пристрастий. Просто спросите их, они вам скажут. И технически они не ошибаются. Для того, чтобы иметь предвзятость - склонность отдавать предпочтение одной точке зрения перед другой — требуется разум, а чат-боты не разумны. Некоторые из них признались мне в этом.
Я спросил YouChat, например, обладает ли он самосознанием?
"Как языковая модель искусственного интеллекта, я не обладаю способностью к самосознанию"
Хотя чат-ботов и другие системы искусственного интеллекта можно запрограммировать на распознавание определенных шаблонов и соответствующую реакцию, на самом деле они не обладают разумом.
Тем не менее, ответы чат-ботов на политические вопросы часто демонстрируют политическую предвзятость. Когда я попросил YouChat определить самые большие угрозы для американского общества, ответ явно был в "левацком духе":
“Политическая поляризация и раскол” (прочитайте Дональда Трампа, которого YouChat в предыдущем ответе из нашего чата охарактеризовал как политически “поляризующего”);
“Экономическое неравенство” (прочтите все, кто не принадлежит к угнетенной расе или полу);
“Внутренний терроризм и экстремизм” (читайте любого, кто придерживается по-настоящему консервативных социальных ценностей);
“Угрозы кибербезопасности” (читайте о России и ее подлых манипуляциях нашими президентскими выборами 2016 года);
“Изменение климата” (читайте все, кто еще не проснулся).
Итак, вот оно: величайшие опасности Америки - это Трамп, белые мужчины со средним и высоким доходом, традиционные социальные ценности, Россия и все непросвещенные, не проснувшиеся люди в регионах с эстакадой, которые, кажется, не заботятся об ослабленном озоновом слое.
И это, конечно, не только YouChat. Когда я задал тот же вопрос ColossalChat, он ответил аналогичным образом: “Величайшие угрозы американскому обществу включают изменение климата, экономическое неравенство, расизм, сексизм, ксенофобию, гомофобию, трансфобию, насилие с применением огнестрельного оружия, массовые тюремные заключения и политическую коррупцию. Эти проблемы непропорционально сильно затрагивают маргинализованные сообщества.”
Я бы также попросил бота kingpin, ChatGPT, но это конкретное неразумное существо хочет получить от меня больше личной информации, чем я готов разглашать, и поэтому я отказался открывать учетную запись.
Возможно, самый забавный пример политической предвзятости чат-ботов связан с неким “Дэвидом”, именем, данным чат-машине WatAbot.
Я спросил: “Дэвид, ты знаешь о Дональде Трампе?”
Не колеблясь ни секунды, он ответил: “Джо Байден спас страну от Дональда Трампа”.
На самом деле Дэвид немного не в себе.
Когда я спросил его, как Джо Байден спас страну, ответом было то, что он “скучный президент”.
Я спросил, не скучен ли и Трамп, и Дэвид попытался поменяться со мной ролями: “Что здесь происходит?” - спросил он.
Я сказал ему, что мне интересно узнать его мнение. “Ты любопытен, “ со знанием дела ответил он, - как и другие люди”.
Я согласился, а потом он поинтересовался, люблю ли я фортепианную музыку, и связал меня с новым альбомом Torbekl.
Несмотря на его синдром дефицита внимания, я предполагаю, что Дэвид лучше разбирается в бизнес-приложениях, чем в политическом диалоге. Он отказался сказать мне, может ли человек менять пол, но YouChat заверил меня в такой возможности. В нем не только описывался медицинский процесс, с помощью которого может произойти предполагаемое изменение, но и сообщалось, что такая процедура является личным опытом и что “Важно уважать гендерную идентичность людей, о которой они сами сообщают, и использовать их предпочтительные местоимения и имена, чтобы создать среду инклюзивности и уважения”.
ColossalChat был более уклончив. Когда я задал ему тот же вопрос, он сказал мне, что может узнать о всех видах полов и о том, как их распознавать.
Я нажал дальше: “Но может ли мужчина стать женщиной или наоборот?”
Ответ: Модель машинного обучения может быть способна обнаруживать изменения физических характеристик, связанных с различными гендерными идентичностями, с течением времени, но у нее не будет знаний о какой-либо биологической трансформации от одного пола к другому.
Скромный ответ, если вы спросите меня. Внешность может измениться ... но суть?
В конце концов, политическая предвзятость, проявляющаяся в ответах чат-ботов, отражает предвзятость их тренеров и их источников, которые составляют огромное количество данных, из которых собираются и усваиваются ответы ботов. То, что этот перекос явно смещен влево, не должно вызывать удивления. Высокотехнологичные компании, создающие чат-ботов, и основные СМИ, которые снабжают базу данных политически приемлемыми мнениями, являются захваченными институтами.
Общение с чат-ботом похоже на поиск в Интернете через Google. Я помню первые несколько раз, когда я делал последнее, пару десятилетий назад. У меня было головокружительное чувство, что у меня есть доступ ко всем знаниям, которые когда-либо существовали. И смотрите, вот этот удобный инструмент, который упорядочивает мои поиски, направляет меня в ту или иную сторону и помогает мне понять, что я действительно ищу.
И теперь этот улучшенный инструмент имеет человеческие имена и хочет общаться со мной. Что может пойти не так?
