ФБР предупреждает о росте числа атак, направленных на искусственный интеллект
Федеральное бюро расследований США (ФБР) выразило обеспокоенность растущей угрозой искусственному интеллекту (ИИ) со стороны как отдельных злоумышленников, так и государств. Недавнее заявление Бюро подчеркивает повышенный интерес иностранных структур к американским ИИ-активам.
По данным ФБР, иностранные «агенты» активизируют свои действия против американских компаний, академических институтов и правительственных исследовательских организаций, занимающихся разработкой ИИ. Эти противники ставят во главу угла кражу алгоритмов, данных и инфраструктуры ИИ и даже идут на вербовку ведущих специалистов по ИИ из этих организаций.
В государственном секторе выделяют два основных риска:
1. Манипулирование ИИ на этапе его разработки, когда алгоритмы могут быть изменены таким образом, что это приведет к результатам, наносящим ущерб интересам общества или конкретных организаций.
2. Злонамеренное использование ИИ для поддержки враждебных действий. Это включает в себя его использование для автоматизации или дополнения вредоносных действий, таких как кибератаки или распространение дезинформации.
В более широком криминальном ландшафте также наблюдаются изменения: злоумышленники используют ИИ для активизации своей вредоносной деятельности. К ним относятся генерация вредоносного кода с помощью ИИ, создание убедительных фишинговых кампаний, передовая разработка вредоносных программ, обратный инжиниринг и синтез контента, например, deepfakes.
Почему ИИ – это опасно: