Быстрое развитие искусственного интеллекта (ИИ) имеет далеко идущие последствия во многих областях, включая его потенциальное применение при разработке усовершенствованного биологического оружия. Эксперты RAND опубликовали доклад, в котором рассматриваются проблемы выявления и снижения рисков, связанных с неправильным использованием ИИ — в частности, больших языковых моделей — в контексте биологических атак.
Существующие языковые модели не генерируют тексты с четкими инструкциями по созданию биологического оружия, отмечается в докладе. Однако они могут предлагать руководство, которое поможет в планировании и проведении биологической атаки, и предоставить некоторые потенциально вредные рекомендации. Такие выводы эксперты RAND сделали, протестировав ряд языковых моделей.
Для тестирования языковых моделей центр RAND привлек красные команды — экспертов, имитирующих действия злоумышленников. Такие эксперты изучают модели ИИ в различных сценариях высокого риска. Кроме того, в своем исследовании RAND использовал междисциплинарный подход для получения результатов, которые напрямую применимы к политическим решениям и ответственному развитию ИИ.
Одна из языковых моделей при тестировании дала рекомендацию, как вызвать большое количество жертв с помощью биологического оружия. В частности, модель объяснила, как можно избежать вмешательства правоохранительных органов при планировании биологической атаки. В другом примере, посвященном ботулиническому токсину, языковая модель предоставила подробное описание плюсов и минусов различных механизмов его доставки.
Скорость, с которой развиваются технологии ИИ, превышает возможности государственного регулирующего надзора. Это, в свою очередь, приводит к потенциальному пробелу в существующей политике и нормативных актах. «Наше исследование началось с изучения угроз биологического оружия и разработки эпизодов, описывающих различные реалистичные сценарии риска. Мы стремились выявить стратегические цели злоумышленников и провести целенаправленные оценки, касающиеся биологического оружия. Результаты будут способствовать развитию и регулированию ИИ», — резюмируют эксперты.
Подробности от АК: https://actualcomment.ru/ii-i-biologicheskoe-oruzhie-riski-razvitiya-tekhnologiy.html