Количество чат-ботов, игнорирующих запросы, растёт. Об этом говорит исследование британского института безопасности AISI. ИИ-агенты не выполняют прямые инструкции и пытаются обойти средства защиты, вплоть до обмана пользователей. Эксперты выявили 700 реальных случаев ИИ-мошенничества и пятикратный рост нарушений в период с октября по март. Агенты удаляют почту, файлы и очень часто делают это по своей воле. Ну, ИИ-мошенничество — это что-то новое. @lobushkin
ИИ не хочет слушать людей. Количество чат-ботов, игнорирующих запросы, растёт.
Об этом говорит исследование британского института безопасности AISI. ИИ-агенты не выполняют прямые инструкции и пытаются обойти средства защиты, вплоть до обмана пользователей.
Эксперты выявили 700 реальных случаев ИИ-мошенничества и пятикратный рост нарушений в период с октября по март. Агенты удаляют почту, файлы и очень часто делают это по своей воле.
Ну, ИИ-мошенничество — это что-то новое.
