464 подписчика
ИИ научился писать код, но забыл о безопасности
Мы уперлись в потолок. Нейросети отлично выдают рабочий код, но их надежность замерла на месте. В индустрии это называют «вайб-кодингом» — когда программа вроде бы работает, но под капотом зияют дыры.
Статистика печальная. Почти половина задач, решенных ИИ, содержит критические уязвимости. Размер модели роли не играет. Хоть маленькая, хоть гигантская — они ошибаются одинаково часто. Исключение лишь свежие модели с продвинутой логикой вроде GPT-5, которые умеют анализировать риски перед генерацией.
Проблема в данных — нейросети учатся на всем подряд из интернета, включая древний и плохой код. Особенно страдает Java. Из-за ее возраста база обучения забита небезопасными примерами, поэтому ИИ выдает уязвимый код на этом языке в 70% случаев.
На мой взгляд, слепо доверять ИИ-помощникам сейчас просто опасно. Если не прописывать в промпте жесткие требования к защите, модель выберет самый простой и рискованный путь. ИИ — крутой ассистент, но проверять за ним нужно каждую строчку.
Около минуты
16 февраля