Команда Cisco по анализу ИИ-угроз выяснила, что даже самые продвинутые модели заметно слабее держат оборону, когда атакующий ведёт длинный диалог вместо одного запроса.CISOCLUB
Nova 2 Lite имела сравнительно высокий показатель ASR в одноходовом режиме, а в многоходовой проверке получила самый низкий результат среди всей группы, около 8%. Более половины моделей продемонстрировали разницу не менее 15 пунктов между двумя режимами.CISOCLUB
На бумаге модель может смотреться почти образцово, а в реальной эксплуатации внезапно уступать после 5, 10 или 20 аккуратно выстроенных сообщений.CISOCLUB
Cisco фактически показала, что соревнование между защитниками и атакующими переходит из режима одиночных фраз в режим длинной психологической партии.CISOCLUB
Источники: