Новое исследование компании Aikido Security показало, что одна пятая всех инцидентов безопасности связана с уязвимостями в коде, написанном искусственным интеллектом. В то время как ИИ уже генерирует около 24% рабочей кодовой базы во всем мире, почти 70% организаций нашли в таком коде дефекты, которые могут привести к серьёзным нарушениям безопасности.
В отчёте говорится, что размытость ответственности становится большой проблемой: де-факто никто не несёт полного контроля за написанным ИИ кодом. Специалисты по безопасности, разработчики и юридические отделы испытывают трудности с управлением рисками, вызванными автоматизированной генерацией программного обеспечения.
Исследование отмечает, что сложные экосистемы со множеством инструментов на базе ИИ вносят дополнительную путаницу и увеличивают время на исправление ошибок: команды, использующие более 5 ИИ-инструментов, тратят в среднем почти в 2,5 раза больше времени на отладку, чем те, кто полагается на 1-2 решения.
Тем не менее, исследование настроено оптимистично относительно будущего. 96% участников опроса уверены, что в ближайшие пять лет ИИ сможет создавать более безопасный и надёжный код, давая возможность автоматизировать даже сложное тестирование. При этом 79% считают, что такой код будет требовать обязательного контроля и участия человека.
Эксперты подчёркивают важность баланса между эффективностью ИИ и контролем со стороны специалистов, чтобы минимизировать риски и повысить качество создаваемого программного обеспечения.