14 июля в 11:23

Исследователи обманули ИИ с помощью скрытых инструкций в картинке

Возвращаем к оригиналу....
Специалисты по кибербезопасности нашли способ внедрять вредоносные команды для ИИ-агентов через обычные изображения.Prokazan
Вредоносные команды помещаются внутрь картинки, которую многие ИИ-инструменты воспринимают как «декор» и не анализируют при проверке кода.Самара онлайн 24
Скрытая инструкция активируется позже, когда разработчик просит ИИ выполнить обычную задачу, например, добавить новую функцию.Prokazan
Одни программы слепо выполняли скрытые инструкции, другие распознавали угрозу и отказывались работать.Prokazan
Источники:
IT
5,67 млн интересуются
Добавить в корзинуПозвонить