Галлюцинации взаимодействия: почему ИИ-ассистенты ошибаются на стыке сервисов
🧑🏻💻 Нейросетевые ассистенты всё чаще работают в цепочках сервисов, и новая зона риска появляется именно там: при передаче контекста между системами. «Галлюцинации взаимодействия» приводят к ошибочным бронированиям, платежам и консультациям даже тогда, когда отдельные компоненты работают корректно. Российские разработчики ПО отмечают появление нового типа ошибок у ИИ-ассистентов — «галлюцинаций взаимодействия». Это сбои, возникающие не внутри одной модели, а на стыке нескольких систем, когда цифровой помощник обращается к внешнему сервису партнёра, использующему ИИ другого разработчика...