Разработчики жалуются на постоянные ошибки ИИ при использовании его для выявления уязвимостей. Об этом пишет The Register.
Согласно источнику, неспособность нейросетей нормально выполнять поиск ошибок и уязвимостей в программном обеспечении была выявлена благодаря программе Vex Curl. Команда разработчиков платит деньги тем, кто находит серьезные уязвимости в их ПО и на текущий момент в рамках программы было выплачено уже более $70 тысяч.
Подписаться на iGuides в Telegram, чтобы узнать обо всем первым.
В ходе работы эксперты столкнулись с проблемой: более 66% присланных отчетов на поверку оказываются ложными. Из 415 репортов действительно важными оказались всего 64, и еще 77 признали информативными, то есть не имеющими значительных последствий для безопасности.
Проверка показала, что аусорсеры, занимающиеся выявлением ошибок, начали использовать для этого нейросетевые модели. В результате сотрудники Curl получают множество отлично оформленных и легко читаемых отчетов, составленных чат-ботами, которые по сути своей оказываются ошибочными.
Разработчики называют это серьезной проблемой, поскольку использование ИИ в таком деле лишь прибавляет им работы: перебирать и проверять отчеты об уязвимостях им в любом случае приходится вручную. В вопросе поиска ошибок ПО нейросети пока неспособны заменить человека.
