Галлюцинации создают дыры безопасности
Языковые модели могут генерировать код, который ошибочно ссылается на программные пакеты, создавая уязвимости, которые могут эксплуатировать злоумышленники.
Что нового: Исследователь кибербезопасности заметил, что большие языковые модели при генерации кода многократно производят команду установки пакета, которого на самом деле нет по указанному пути, сообщил The Register. Он создал фиктивный пакет с таким же названием и загрузил его по этому пути, и разработчики должным образом его установили.
Как...