Искусственный интеллект пока не способен самостоятельно создать вирус в лаборатории: полностью автономных лабораторий еще не существует. Однако система может оплатить работу человека, который выполнит необходимые действия, считает биотехнологический эксперт технологического аналитического центра Institute for Progress Оливия Шарфман. Свои оценки она привела в комментарии WIRED.
Шарфман рассматривает биотерроризм с использованием ИИ как непосредственную угрозу. По ее словам, к подобным действиям могут прибегнуть достаточно радикальные группы, включая «трансгуманистических сторонников преемственности ИИ» — приверженцев маргинальной идеологии, рассчитывающих заменить людей роботами.
Генетик и профессор вычислительной биологии Франсуа Беллу считает опасность переоцененной. Он отметил, что люди склонны преувеличивать значение патогенов как оружия. По словам ученого, биологические средства плохо подходят для избирательного поражения одних групп при сохранении других, а массовое производство и распространение вирусов или бактерий требует сложной логистики.
«Если вы хотите убить людей, есть гораздо, гораздо, гораздо более эффективные способы сделать это, чем пытаться создать какой-то вирус или бактерию, а затем выпустить их», — заявил Беллу. Он добавил, что это справедливо и для самой совершенной искусственной системы, и для обычного человека. При этом руководитель направления ИИ и биологии аналитического центра Rand Corporation Стеф Гуэрра считает, что влияние ИИ на риск создания биологического оружия пока трудно оценить.
Гуэрра указала, что ИИ хорошо объединяет разрозненную информацию и способен мотивировать людей как на полезные, так и на опасные действия. Для снижения рисков она предложила обязать продавцов синтетической ДНК и РНК проверять клиентов и заказы. Многие компании уже используют программы для выявления так называемых опасных последовательностей, однако такая проверка пока не стала обязательной и применяется не повсеместно.
Эксперты также выступают за защитные ограничения в самих ИИ-моделях, усиление глобального мониторинга новых заболеваний и более раннюю передачу данных исследователям. Обмен информацией между разработчиками ИИ, поставщиками услуг по синтезу генов и государственными структурами может дополнительно затруднить злоупотребления. «Практически любой механизм биобезопасности можно обойти, поэтому нам нужны многоуровневые меры, создающие препятствия на всем пути — от замысла и намерения злоумышленника до выпуска биологического оружия», — сказала Гуэрра.
Шарфман считает, что нынешние дискуссии об угрозах ИИ следует использовать для усиления защиты от всех биологических рисков, включая существующие патогены вроде H1N1. Среди возможных мер она назвала законодательное повышение требований к безопасности технологий синтеза ДНК и модернизацию систем очистки воздуха в зданиях. Иммунолог Унутмаз, в свою очередь, предупредил, что разговоры о катастрофических сценариях могут отвлекать внимание от помощи ИИ в разработке вакцин и других медицинских достижениях: «Нам действительно нужно сосредоточиться на положительной стороне этого».
Читайте также: