Новая система искусственного интеллекта, способная обнаруживать скрытые уязвимости в программном обеспечении, может иметь серьезные последствия для киберугроз, заявила президент Федерального ведомства по безопасности в информационной технике (BSI) Клаудия Платтнер 10 апреля, сообщает Der Spiegel.
По словам Платтнер, ее ведомство воспринимает заявления компании-разработчика Anthropic очень серьезно и ожидает «перемен в обращении с уязвимостями и в ландшафте уязвимостей в целом». Разработанная американской компанией Anthropic система Mythos, по ее оценке, в перспективе может привести к тому, что классических неизвестных уязвимостей в ПО больше не останется. «Это повлечет за собой смещение векторов атак и смену парадигмы в отношении киберугроз», — отметила она. Президент BSI также указала, что подобные мощные инструменты поднимают вопросы национальной и европейской безопасности и суверенитета.
Anthropic на этой неделе сообщила, что с помощью Mythos уже обнаружены «тысячи» серьезных уязвимостей, в том числе в каждой часто используемой операционной системе и веб-браузере. Компания предупредила, что с быстрым прогрессом в области искусственного интеллекта такие возможности вскоре могут стать доступны и онлайн-злоумышленникам. В рамках сотрудничества доступ к Mythos для поиска уязвимостей в своем ПО получат такие корпорации, как Apple, Amazon и Microsoft. Сама Anthropic не планирует делать систему общедоступной.
Напомним, что Федеральное ведомство по безопасности в информационной технике (BSI) Германии давно занимается анализом рисков, связанных с искусственным интеллектом в кибербезопасности. Ведомство неоднократно подчеркивало двойственную природу ИИ: он ускоряет выявление аномалий в сетях и защиту от вредоносного ПО, но одновременно усиливает угрозы от злоумышленников, позволяя автоматизировать фишинговые атаки, создавать продвинутое вредоносное ПО и обходить системы распознавания.
Ранее BSI публиковало рекомендации по безопасному использованию ИИ, акцентируя внимание на необходимости отслеживания и контроля за моделями, чтобы избежать утечек данных и несанкционированного доступа. Эксперты ведомства предупреждали о рисках «теневого ИИ», когда сотрудники без разрешения внедряют непроверенные инструменты, создавая слепые зоны в безопасности организаций.
В Германии киберугрозы остаются актуальными: недавно спецслужбы раскрыли масштабную атаку на правительственные сети с использованием вредоносных программ, что привело к блокировке данных и восстановлению систем. Такие инциденты подтверждают растущую сложность ландшафта угроз, где ИИ может стать как щитом, так и оружием.