Министерство обороны США представляет новый суперкомпьютер, ориентированный на возможности биологической защиты
15 августа 2024 года представитель Министерства обороны США Роберт Л. Дитчи II сделал следующее заявление:
«1 августа 2024 года Министерство обороны США и Национальное управление по ядерной безопасности (NNSA) открыли новую суперкомпьютерную систему, предназначенную для биологической защиты в Ливерморской национальной лаборатории имени Лоуренса (LLNL).
Пентагон работает с NNSA над тем, чтобы значительно увеличить вычислительные возможности, доступные американским национальным программам биологической защиты. Сотрудничество позволило расширить системы с той же архитектурой системы, что и будущий суперкомпьютер LLNL exascale, El Capitan, который, как ожидается, станет самым мощным суперкомпьютером в мире, когда он будет введен в эксплуатацию в конце 2024 года.
Система, ориентированная на биозащиту, предоставит уникальные возможности для крупномасштабного моделирования на основе ИИ для различных оборонительных мероприятий, включая биологическое наблюдение, характеристику угроз, разработку передовых материалов и ускоренные медицинские контрмеры.
Министерство обороны США и NNSA намерены предоставить правительству США, международным союзникам и партнерам, а также академическим кругам и промышленности доступ к суперкомпьютерным возможностям.
В ходе церемонии открытия докладчики подчеркнули важную роль высокопроизводительных вычислений и межведомственного сотрудничества в разработке новых возможностей биологической защиты в целях обеспечения национальной безопасности США.
Заместитель помощника министра обороны США по химической и биологической защите Ян Уотсон, возглавлявший делегацию Министерства обороны в LLNL, заявил: «Эта новая суперкомпьютерная система и другие технические средства подчеркивают приверженность Министерства обороны созданию устойчивых преимуществ и предоставлению передовых оборонительных возможностей, которые позволят Всеобщим силам сдерживать или преодолевать современные химические и биологические угрозы».
Новая суперкомпьютерная система, финансируемая Программой химической и биологической защиты Министерства обороны США, является продолжением соглашения между Министерством обороны США и NNSA от 2023 года о совместной работе над сложнейшими задачами биологической защиты США».
Армия США меняет способ оценки заражения химическими или биологическими агентами
Подполковник Дэн Мини, директор по комплексной защите Департамента G-8 штаба армии США, заявил, что армия выходит за рамки бинарного подхода «100 процентов чистоты или 100 процентов грязи» и ресурсоемкого и трудоемкого процесса полной дезактивации.
«В нашей стратегии модернизации мы идем к принятию риска для командира маневра — какой уровень снижения риска мы можем обеспечить?» — сказал он 12 августа 2024 года во время панельной дискуссии на конференции и выставке по защите от химического, биологического и ядерного оружия Национальной оборонной промышленной ассоциации 2024 года. «Оно не должно быть идеальным, но оно должно обеспечивать некоторую эксплуатационную полезность, чтобы мы могли продолжать маневрировать и действовать, но не на 100 процентов».
Инициатива началась два года назад и находится в ведении Army Maneuver Center of Excellence. Армия все еще определяет необходимую доктрину и возможности, сказал он.
Частью решения является улучшение технологии обнаружения, чтобы избежать заражения. Служба изучает беспилотники и роботизированные наземные транспортные средства, а также возможности, подобные микросенсорам, и устройства, которые можно перемещать далеко вперед на поле боя, потенциально оставлять в покое на некоторое время и предоставлять простой ответ командиру маневра», если в районе есть заражение, сказал он.
В настоящее время служба располагает «целым рядом химических и биологических детекторов, что мы ценим, но мы все больше хотели бы использовать одно или меньше устройств, которые выполняют больше задач одновременно», — сказал он.
«Когда дело доходит до дезинфекции, мы пытаемся избавить солдат от реального физического участия в этом процессе и максимально автоматизировать его», — сказал он.
Другая цель — обеспечить точечную дезактивацию. Она начнется с «визуально-индикаторного спрея… чтобы увидеть, в чем заключается опасность, и провести точечную дезактивацию вместо того, чтобы дезактивировать все транспортное средство», — сказал он в кулуарах конференции.
«В рамках этого нам нужны хорошие детекторы, которые могут помочь подтвердить это, а затем эту информацию мы сможем получить и сказать: «Мы провели дезинфекцию, мы обнаружили остаточное количество... и, следовательно, остаточный риск, который вы должны принять, заключается в том, что вам все равно придется носить средства защиты — или нет»».
«Но нам нужен этот визуальный индикаторный спрей», — продолжил он. «Нам нужны другие системы, которые уже вводятся в эксплуатацию, пока мы говорим, чтобы объединиться и действительно внести изменения, чтобы уйти от того, как мы вели дела на протяжении 100 лет с большим количеством воды, большим количеством дезактиватора и силой солдат».
«Новое биологическое оружие. Как синтетическая биология может дестабилизировать мир»
Так называется статья профессора биолога Роджера Брента и руководителей корпорации RAND Т. Грега Маккелви-младшего и Джейсона Матени в FOREIGN AFFAIRS (20.08.2024). Авторы пишут:
«В конце прошлого десятилетия и в начале этого человеческое общество само подверглось своего рода тесту на проникновение: COVID-19. Вирус, бездумный противник, проверил способность мира защищаться от новых патогенов. И к концу теста стало ясно, что человечество потерпело неудачу. COVID-19 проник повсюду, от отдаленных антарктических исследовательских станций до изолированных амазонских племен. Он бушевал в домах престарелых и авианосцах. По мере своего распространения он уравнивал уязвимых и могущественных — как работников на передовой, так и глав государств».
Драконовские карантины и чудесные вакцины замедлили, но не остановили распространение вируса. К концу 2022 года трое из четырех американцев были инфицированы по крайней мере один раз. За шесть недель после того, как Китай снял свои «нулевые» ограничения COVID в декабре, более миллиарда человек в стране были инфицированы. Основной причиной относительно скромного числа смертей от пандемии было не то, что общество контролировало болезнь. А то, что вирусная инфекция оказалась лишь умеренно смертоносной. В конце концов, COVID-19 в основном сам себя исчерпал.
Неудача человечества в борьбе с COVID-19 отрезвляет, потому что мир сталкивается с растущим числом биологических угроз. Некоторые из них, такие как птичий грипп, исходят от природы. Но многие возникают благодаря научным достижениям.
За последние 60 лет исследователи разработали сложные представления как молекулярной, так и человеческой биологии, что позволило разработать удивительно смертоносные и эффективные патогены. Они выяснили, как создавать вирусы, которые могут обходить иммунитет. Они узнали, как эволюционировать существующие вирусы, чтобы они легче распространялись по воздуху, и как конструировать вирусы, чтобы сделать их более смертоносными.
Остается неясным, возник ли COVID-19 в результате таких действий или проник в человеческую популяцию через взаимодействие с дикой природой.
«В любом случае, - пишут авторы, - очевидно, что биологические технологии, теперь усиленные искусственным интеллектом, упростили создание болезней, как никогда ранее.
Если созданный человеком или улучшенный человеком патоген вырвется или будет выпущен из лаборатории, последствия могут быть катастрофическими. Некоторые синтетические патогены могут быть способны убить гораздо больше людей и вызвать гораздо большее экономическое опустошение, чем новый коронавирус. В худшем случае число погибших во всем мире может превысить число погибших от Черной смерти, которая убила каждого третьего человека в Европе».
«Предотвращение такой катастрофы должно стать приоритетом для мировых лидеров. Это проблема, которая по крайней мере столь же сложна, как и другие грандиозные проблемы раннего антропоцена, включая смягчение и управление угрозой ядерного оружия и планетарными последствиями изменения климата. Чтобы справиться с этой опасностью, государствам необходимо будет начать укреплять свои общества для защиты от созданных человеком патогенов.
Например, им придется разработать системы оповещения, которые могут обнаруживать искусственные заболевания.
Они должны научиться, как резко увеличить производство средств индивидуальной защиты и как сделать их намного более эффективными.
Им необходимо будет сократить время, необходимое для разработки и распространения вакцин и противовирусных препаратов, до нескольких дней вместо месяцев.
Им необходимо будет управлять технологиями, используемыми для создания и манипулирования вирусами.
И они должны сделать все это как можно быстрее».
Рискованный бизнес
На протяжении более века большинство людей рассматривали биологию как движущую силу прогресса. К началу двадцать первого века вакцины помогли человечеству искоренить оспу и чуму крупного рогатого скота и почти искоренить полиомиелит. Успех был частичным.
Многие инфекционные заболевания неизлечимы, и поэтому полное искоренение патогенов остается исключением, а не правилом. Но достижения были неоспоримы.
Квалифицированный характер достижений человечества, возможно, лучше всего иллюстрирует пандемия ВИЧ. На протяжении десятилетий ВИЧ убивал почти всех, кого поражал. Он продолжает заражать миллионы людей каждый год. Но благодаря научным инновациям в мире теперь есть коктейли из лекарств, блокирующих репликацию вируса, которые превратили болезнь из смертного приговора в управляемое медицинское состояние. Этот вид медицинского прогресса зависит от отдельных и слабо координируемых предприятий — каждое из которых реагирует на разные стимулы — которые оказывают помощь, управляют общественным здравоохранением и проводят научные и медицинские исследования.
Но прогресс может быть палкой о двух концах. Если растущее понимание микробиологии учеными способствовало большим достижениям в области здоровья человека, оно также способствовало попыткам подорвать его.
Во время Первой мировой войны союзники изучали применение бактериального оружия, а сотрудники немецкой военной разведки использовали такие патогены для нападения на животных, которых союзники использовали в качестве транспорта. Они заражали лошадей и мулов во Франции и Румынии. В Норвегии они пытались заразить оленей, которых саамы использовали для доставки оружия русским войскам. Немецким офицерам даже удалось заразить загоны и конюшни в Соединенных Штатах, которые были полны животных, направлявшихся в Европу.
К началу Второй мировой войны эти инициативы переросли в оружие, предназначенное для убийства людей.
В оккупированной Японией Маньчжурии японский военный офицер Сиро Исии командовал своими войсками в антиутопическом Отряде 731, в котором они испытывали биологическое оружие на людях. Они заразили и убили тысячи заключенных сибирской язвой, тифом, паратифом, сапом, дизентерией и бубонной чумой. В последние дни войны Исии предложил полномасштабную операцию биологической войны под названием «Цветущая вишня ночью», в ходе которой японские гидросамолеты должны были разогнать блох, зараженных бубонной чумой, над крупными городами американского Западного побережья. Но на этот план наложил вето начальник генерального штаба армии. «Если будет вестись бактериологическая война, — отметил начальник, — она перерастет из измерения войны между Японией и Америкой в бесконечную битву человечества против бактерий».
Неверно полагать, что у государств и террористов нет воли или средств для создания биологического оружия.
Такое мышление не остановило другие страны от исследования и разработки биологического оружия. В 1960-х годах Министерство обороны США запустило проект 112, в рамках которого проводились эксперименты, как массово распространять патогены. Для этого армия распыляла споры в туннелях метро Нью-Йорка и бактерии в аэрозолях с лодок в заливе Сан-Франциско. Она распыляла химикаты с армейских самолетов на тысячи квадратных миль, от Скалистых гор до Атлантики и от Канады до Мексиканского залива. По мнению официальных лиц США, это оружие было своего рода страховым полисом от советского ядерного нападения: если бы Москва нанесла удар по Соединенным Штатам и нейтрализовала собственный ядерный арсенал Вашингтона, Соединенные Штаты все еще могли бы опустошить Советский Союз, контратаковав смертельными патогенами.
К середине десятилетия Пентагон взял на себя обязательство разработать смертоносное и выводящее из строя биологическое оружие. К концу 1960-х годов правительственные ученые производили значительные количества смертоносных бактерий и токсинов, которые были разработаны, по словам микробиолога Райли Хаусрайта, для того, чтобы «затруднить диагностику и помешать лечению».
Однако эти события напугали гражданских исследователей, которые выступили против планов Вашингтона. Они нашли восприимчивую аудиторию в Белом доме.
В 1969 году президент США Ричард Никсон решил остановить программу своей страны по биологическому оружию. Он также призвал к международному договору, запрещающему подобные инициативы. Внешние эксперты поддержали его послание. Вскоре после заявления Никсона Джошуа Ледерберг — биолог, лауреат Нобелевской премии — дал показания перед Конгрессом США в поддержку глобального запрета. Биологическое оружие, сказал он, может стать таким же смертоносным, как и ядерное. Но его будет легче создать. Ядерное оружие «было монополизировано великими державами достаточно долго, чтобы поддерживать фактический баланс сдерживания и строить систему безопасности, основанную на нераспространении», — сказал Ледерберг. «Власть микробов будет работать как раз наоборот».
В 1971 году Советский Союз и Соединенные Штаты договорились о договоре о запрете биологического оружия, названном Конвенцией о биологическом оружии. Генеральная Ассамблея ООН единогласно одобрила это соглашение, и в 1972 году оно было открыто для подписания в Лондоне, Москве и Вашингтоне.
У Конвенции о биологическом оружии была проблема: она не ограничивала частные группы и отдельных лиц в стремлении к такому оружию.
В 1984 году религиозное движение Раджниш, базирующееся в Орегоне, заразило салат-бары сальмонеллой. (Его целью было вывести из строя избирателей оппозиции, чтобы кандидаты Раджниша могли победить на выборах в округе Васко.) Никто не погиб, но сотни людей заболели.
В 1995 году апокалиптическая группа Аум Синрикё ранила тысячи людей в Токио химическим нервно-паралитическим веществом зарин. Ранее она безуспешно пыталась изготовить оружие сибирской язвы.
В 2001 году атаки сибирской язвы в Соединенных Штатах, направленные на журналистов и два офиса Сената США, которые, по мнению ФБР, были осуществлены одиноким американским ученым, убили пять человек.
Относительно небольшой масштаб этих инцидентов можно рассматривать как доказательство того, что террористы и государства в настоящее время могут быть слишком ограничены, возможно, техническими трудностями или существующими законами, чтобы нанести массовый биологический ущерб. Но эта точка зрения слишком оптимистична.
Вместо этого они показывают, что текущие международные соглашения и меры общественного здравоохранения не могут предотвратить такие атаки. Эти инциденты также показывают, что неправильно предполагать, что у государств и террористов нет воли или средств для создания биологического оружия. Некоторые люди и группы действительно сталкиваются с препятствиями — например, невозможностью получить доступ к нужным лабораториям или объектам. Но благодаря неустанному технологическому прогрессу эти препятствия рушатся.
«В 2012 году группа ученых во главе с Эммануэль Шарпантье и Дженнифер Дудна опубликовала статью в Science, ведущем академическом журнале. В статье описывалась инженерная система под названием CRISPR-Cas9, которая использует химерную РНК, созданную человеком, для редактирования генетического материала. Изобретение пополнило и без того внушительный набор инструментов молекулярной биологической инженерии, включая то, что ученые называют «классической рекомбинантной ДНК» (изобретенной в 1970-х годах), полимеразную цепную реакцию (более известную как ПЦР и изобретенную в 1980-х годах) и синтетическую ДНК (которая также вошла в употребление в 1980-х годах).
Вместе эти изобретения создали взрыв человеческой изобретательности, которая подпитывает научные открытия и достижения в медицине. Например, в декабре 2023 года FDA одобрило сложную генную терапию на основе CRISPR в качестве лекарства от серповидноклеточной анемии — разрушительного заболевания, от которого страдают миллионы людей.
Но из-за политики, экономики и сложных институтов, через которые биологический прогресс достигает людей, могут пройти годы, прежде чем преимущества новейших технологий коснутся нуждающихся. Например, лечение серповидноклеточной анемии с помощью CRISPR технически и медицински сложно, дорого (2,2 миллиона долларов на человека) и требует много времени. Поэтому оно охватило очень небольшую долю пациентов.
И пока мир борется за распространение преимуществ этих сложных новых технологий, ученые продолжают демонстрировать, что они также могут легко нанести вред. В 2018 году один человек из команды из трех человек использовал рекомбинантную ДНК, ПЦР и синтетическую ДНК, чтобы воссоздать оспу лошадей, близкого родственника натуральной оспы.
Другая группа использовала эти инструменты, а также CRISPR, чтобы сконструировать другой вирус, родственный натуральной оспе. Такие исследования можно легко использовать для производства смертельных токсинов.
Риски растут отчасти благодаря второй технологической революции: росту искусственного интеллекта. Большие языковые модели, такие как ChatGPT и Claude, становятся намного более сложными и мощными с каждой новой итерацией.
Сегодня самые последние версии используются каждый день тысячами сотрудников лабораторий для ускорения своей работы, отчасти предоставляя массу полезных рекомендаций по техническим вопросам.
В 2020 году исследователи ИИ создали систему AlphaFold, которая эффективно решила задачу Святого Грааля в биологии: предсказание трехмерной структуры белка по последовательности его аминокислот.
Создание патогенов обходится дешевле, чем защита от них.
Но для потенциальных биотеррористов эти системы могли бы облегчить путь к хаосу. Крупнейшие модели ИИ, по-видимому, были обучены на всех опубликованных знаниях в области естественных наук. Большая часть этих знаний, конечно, уже была доступна в Интернете, но ни один человек не мог потреблять, обрабатывать и синтезировать все это.
Современные системы ИИ также могут разрабатывать новые белки (которые позволяют разрабатывать опасные патогены) и выполнять лабораторные операции.
Некоторые специалисты по информатике даже работают над созданием автоматизированных систем, которые могут выполнять лабораторные задачи.
Если эти усилия увенчаются успехом, злонамеренный субъект может создать смертельный новый патоген, просто захватив такие автоматизированные объекты.
И властям будет очень трудно их остановить. Хакеры доказали свою способность взламывать чрезвычайно сложные системы безопасности, а материалы, необходимые для создания новых патогенов, включают реагенты и оборудование, которые широко доступны. Регуляторы могли бы попытаться нацелиться на десятки поставщиков, которые выполняют заказы на ключевые компоненты. Но есть способы обойти этих поставщиков, и их закрытие может замедлить ценные биомедицинские исследования и разработки.
Если злоумышленники в конечном итоге произведут и выпустят вирусный патоген, он может заразить огромные слои населения за гораздо меньшее время, чем это потребуется чиновникам, чтобы обнаружить и идентифицировать угрозу и начать бороться с ней.
В конце концов, создание патогенов дешевле, чем защита от них.
Капитальные затраты на объекты и материалы, необходимые для создания новой болезни, невелики, но реагирование на эпидемию одной из них требует сложного и ошеломляюще дорогого набора компонентов: обширные сети тестирования и обнаружения, огромное количество средств индивидуальной защиты, социально разрушительные блокировки и аппарат, который может разрабатывать, производить и распространять методы лечения и вакцины.
Мысль о трате миллиардов долларов на попытки остановить еще одну пандемию должна быть достаточной, чтобы удержать государства от превращения биологии в оружие. Однако некоторые правительства продолжают осуществлять опасные инициативы».
Сдерживание обороной
«Во время Холодной войны мировые ядерные державы избежали катастрофы во многом благодаря концепции взаимно гарантированного уничтожения. Политики осознали, что одна ядерная атака может спровоцировать ответный удар, который уничтожит всю планету.
Ядерные государства разработали сложные доктрины для управления своими технологиями и сдерживания использования оружия. Правительства заключили множество международных соглашений о нераспространении, которые сводили к минимуму количество стран, обладающих ядерным оружием. А Советский Союз и Соединенные Штаты создали многочисленные системы, включая договоры, протоколы командования и управления и горячие линии, чтобы уменьшить вероятность того, что недопонимание приведет к катастрофической войне.
Но когда дело доходит до биологического оружия, формула сдерживания Холодной войны не сработает. Взаимно гарантированное уничтожение опирается на страх, что было широко распространено в ядерную эпоху и не так распространено в отношении биологической войны. Текущая угроза зависит от продолжения головокружительного технологического прогресса и беспрецедентных изобретений, что затрудняет для людей полное осознание рисков. В отличие от ядерных бомбардировок Хиросимы и Нагасаки, ни одна биологическая атака не стала всемирно-историческим событием, которое привлекало бы постоянное внимание.
Взаимное гарантированное уничтожение также зависит от способности государства идентифицировать нападающего. С ядерным оружием сделать это достаточно просто. Но государства могут выпустить биологическое оружие и избежать обнаружения — и, следовательно, возмездия. Правительство может тайно выпустить опасный вирус и обвинить в этом любое количество других государств или даже негосударственных субъектов.
И негосударственные субъекты действительно могли бы выпустить смертельные патогены, что делает взаимно гарантированное уничтожение еще менее полезным сдерживающим фактором.
Ни одно правительство не хочет рисковать уничтожением своей страны, но множество террористов мало заботятся о выживании, и теперь у них есть доступ к материалам, оборудованию, знаниям и техническим возможностям, необходимым для создания биологического оружия.
В 1969 году Ледерберг предупреждал, что последствия бесконтрольного биологического распространения будут сродни появлению «водородных бомб в супермаркете».
Мир 2024 года полон супермаркетов, в изобилии укомплектованных материалами для изготовления бомб.
Поскольку сдерживание в стиле Холодной войны трудно осуществить, нынешняя ситуация требует иной философии. Здесь путь к сдерживанию лежит не в способности нанести ответный удар. Вместо этого он лежит в обороне, которая настолько сильна, что делает биологические атаки нецелесообразными.
Существует исторический шаблон того, как общества могут сделать биологическое оружие безуспешным: конец крупных городских пожаров. На протяжении большей части зафиксированной истории города мира периодически поглощались огромными пожарами, которые уничтожали их ядра. Но в девятнадцатом веке частота этих пожаров резко сократилась. Это уменьшение было отчасти результатом разработки более совершенных систем реагирования, таких как профессиональные пожарные силы и пожарные гидранты. Но в основном сокращение было обусловлено обыденными шагами, включая внедрение менее горючих строительных материалов, введение инженерных стандартов и строительных норм, а также требований к страхованию ответственности, что препятствовало рискованному поведению. Когда государства создали более четкие определения халатности, упростив возбуждение гражданских исков за случайные пожары, люди стали еще более осторожными.
Сегодняшние власти могут взять пример с этой книги. Правительства построили пожарные части и гидранты для реагирования на городские пожары. Теперь им нужно построить системы, которые могут быстро разрабатывать вакцины, противовирусные препараты и другие медицинские вмешательства. Однако, как и в случае с городскими пожарами, правительствам нужно понимать, что быстрого реагирования будет недостаточно.
Мир может и должен разработать возможность вакцинировать восемь миллиардов человек в течение 100 дней после вспышки — быстрее, чем потребовалось Соединенным Штатам, чтобы полностью вакцинировать 100 миллионов человек от COVID-19. Однако этого все равно будет недостаточно для патогена, который распространяется со скоростью варианта коронавируса Омикрон.
Кроме того, политики должны предпринять шаги, схожие с введением лучших строительных норм — другими словами, шаги, которые затрудняют распространение патогенов.
Они могут начать с создания больших запасов средств индивидуальной защиты. Маски, перчатки и респираторы играют ключевую роль в остановке передачи вируса, и поэтому должностные лица должны подписать подготовительные контракты на такие товары.
Государства также должны субсидировать свои промышленные базы, чтобы они могли увеличить производство в случае необходимости. Они должны поручить производителям перепроектировать средства индивидуальной защиты, чтобы сделать их более дешевыми, эффективными и удобными.
Правительства могут еще больше повысить эту устойчивость, обеспечив, чтобы люди, работающие в сфере основных услуг, имели особенно быстрый доступ к средствам защиты.
Государства должны помочь оснастить здания этих секторов микробицидными системами очистки дальнего ультрафиолетового света и фильтрами для улавливания частиц.
В совокупности эти меры существенно снизят риск перерастания вспышек в социально дестабилизирующие события».
Шаг за шагом
«Есть последний способ снизить риск биологических катастроф, который выходит за рамки планирования ответов и защиты. Чиновникам предстоит лучше управлять новыми технологиями. И в конечном итоге, это может быть единственный способ фактически предотвратить массовую биологическую атаку.
Существует множество инструментов, которые правительства могут использовать для регулирования достижений.
Чиновники могли бы, скажем, отказать в финансировании или даже полностью запретить определенные эксперименты.
Они могли бы потребовать, чтобы люди и учреждения получали лицензии перед выполнением определенных видов работ. Они могли бы более тщательно контролировать будущую автоматизацию лабораторий.
Но чиновники также должны формировать экосистему, которая поддерживает биологические исследования и разработки.
Например, они должны требовать, чтобы фирмы, продающие нуклеиновые кислоты, штаммы, реагенты и другое оборудование для биологических наук, используемое для создания биологических агентов, приняли правила «знай своего клиента», которые требуют, чтобы компании подтверждали личности своих клиентов и характер их деятельности.
Они также гарантируют, что товары отправляются только на известные, законные сайты. (Многие правительства давно заставляют финансовые учреждения следовать правилам «знай своего клиента», чтобы предотвратить переток денег в преступные сети.) Кроме того, политики должны иметь возможность лучше регулировать поведение.
Правительства должны разработать новые способы обнаружения запрещенной биологической деятельности, чтобы правоохранительные органы и разведывательные службы могли предотвращать атаки до того, как они произойдут.
Несмотря на все свои преимущества, ИИ и биоинженерия несут в себе огромную опасность.
Наконец, начиная с сегодняшнего дня, государствам необходимо будет разрабатывать свою политику биологической защиты с учетом ИИ. В настоящее время, прежде чем выпускать большие языковые модели, компании изобретают и устанавливают различные защитные меры, такие как «красные линии», которые пользователи не могут пересекать.
Например, ChatGPT-4 и Claude 3.5 Sonnet отказываются отвечать на прямые вопросы о том, как развить вирус, убивающий сельскохозяйственных животных. Но если пользователи попросят техническое руководство о том, как участвовать в такой направленной эволюции, не используя слово «убить», эти модели дадут хорошее руководство.
Поэтому модели ИИ нуждаются в дополнительных мерах предосторожности против распространения опасной информации, и правительства должны помочь в их создании.
Будет нелегко снизить риски, исходящие от этих новых технологий, и некоторые меры управления рискуют замедлить законные исследования. Политики должны быть вдумчивы, когда они рассматривают ограничения. Но разумный надзор необходим.
Реальность такова, что при всех своих преимуществах ИИ и биоинженерия несут в себе огромные опасности, и общества и правительства должны честно оценивать настоящие и будущие выгоды этих разработок по сравнению с их потенциальными опасностями».
