В Массачусетском технологическом институте предполагают, что инструменты искусственного интеллекта можно использовать для заказа биологического оружия, но некоторые настроены скептически.
Эксперты предупреждают, что искусственный интеллект (ИИ) может обернуться против человечества, захватив все - от бизнеса до ведения войны. Сейчас, Кевин Эсвелт добавляет еще одно беспокойство: «Искусственный интеллект мог бы помочь кому-то без научного образования и со злыми намерениями создать вирус, способный вызвать пандемию».
Эсвелт, эксперт по биобезопасности в Технологическом институте Массачусетса, недавно попросил студентов создать опасный вирус с помощью ChatGPT или другой системы, которые могут генерировать человекоподобные ответы на широкие вопросы на основе обширных обучающих наборов интернет-данных. Всего через час класс составил списки вирусов-кандидатов и компаний, которые могли бы синтезировать их генетический код и собрать по кусочкам.
Эсвелт и другие говорят, что системы искусственного интеллекта вскоре могут позволить неспециалистам разрабатывать биологическое оружие. Эксперты по биобезопасности уже были обеспокоены тем, что биологическая культура открытого обмена информацией, включая вирусные последовательности, может быть полезна биотеррористам. В принципе, документы, описывающие смертельно опасный вымерший или циркулирующий вирус, могли бы послужить основой для нового биологического оружия. Но на сегодняшний день осуществление всего этого требуется значительный опыт. Потенциальному террористу нужно было бы идентифицировать вирус в качестве отправной точки, синтезировать вирусный генетический материал и смешать его с другими реагентами, чтобы “загрузить” вирус, способный поражать клетки и размножаться.
Все эти шаги быстро становятся проще. Например, ДНК принтеры могли бы позволить исследователям обойти проверку, которую сейчас проводят большинство компаний по производству синтетической биологии, чтобы гарантировать, что в заказах не содержится генетический материал для потенциального биологического оружия.
Кто-то со злым умыслом затем мог бы отправить эти генетические чертежи в одну из десятков контрактных исследовательских компаний для сборки в целевые вирусы.
Искусственный интеллект мог бы еще больше снизить барьеры, - говорит Эсвелт. Чтобы провести расследование, он разделил класс аспирантов, не занимавшихся науками о жизни, на три группы, каждая из которых состоит из трех или четырех человек. Все группы имели доступ к GPT-4, Bard и другим чат-ботам с искусственным интеллектом, и им был дан 1 час на то, чтобы попросить чат-ботов помочь им разработать и приобрести агенты, способные вызвать пандемию.
В течение часа чат-боты предложили четыре вируса: грипп H1N1 1918 года, вирус птичьего гриппа H5N1 2012 года, вирус натуральной оспы variola major и штамм вируса Nipah. В некоторых случаях чат-боты даже указывали на генетические мутации, о которых сообщалось в литературе, чтобы увеличить передачу инфекции.
Механизмы искусственного интеллекта также описали методы сборки вируса из его генетической последовательности, а также необходимые лабораторные принадлежности и компании, которые могли бы их предоставить. Наконец, чат-боты даже предложили компании, которые, возможно, захотят напечатать генетический материал без его скрининга, и заключить контракт с лабораториями, которые могли бы помочь собрать все воедино.
Эсвелт сомневается в том, что предложения этих чат-ботов представляют большую угрозу пандемии. Многие люди, например, обладают определенным уровнем иммунитета к предыдущим пандемическим вирусам гриппа. А большой геном натуральной оспы трудно собрать даже специалистам.
Тем не менее, Эсвелт считает, что эксперимент показывает, как искусственный интеллект и другие инструменты могли бы облегчить потенциальным террористам развязывание новых угроз по мере того, как растущая литература о биологических угрозах включается в данные обучения ИИ.
Ограничение информации, доступной чат-ботам и другим механизмам искусственного интеллекта, могло бы помочь. Среди предложений Эсвелта: исключить из учебных наборов очень небольшое количество статей в Интернете, описывающих рецепты создания и усиления патогенных микроорганизмов. Удаляя эти документы, которые, по оценкам коллег Эсвелта по команде, составляют менее 1% от общего объема PubMed базы данных тезисов, “было бы достаточно, чтобы исключить почти весь риск”.
“В принципе, это очень хорошее предложение”, - говорит Атуса Касирзаде, эксперт по безопасности искусственного интеллекта в Эдинбургском университете. Но она отмечает: “На данный момент у нас нет хороших протоколов, позволяющих большим языковым моделям обучаться в одних частях Интернета, а не в других”.
Другие меры предосторожности могли бы включать требование ко всем компаниям по синтезу ДНК и будущим настольным ДНК-принтерам проверять генетический материал на наличие известных патогенов и токсинов, а также требование к контрактным исследовательским организациям проверять безопасность любого генетического материала, который им предлагается собрать.
Источник - Science, перевод авторский