» Исследователи Google представили концепцию «верной неуверенности» — модель может сказать: «Моя лучшая догадка — …». Сейчас борьба с галлюцинациями — жёсткий компромисс: снижение ошибок до 5% отбрасывает 52% правильных ответов. Авторы называют это «налогом на полезность». Новый подход: галлюцинация — это уверенная ошибка, поданная авторитетно. Если модель выражает неуверенность, она отвечает, не вводя в заблуждение. Для агентных систем это критический слой управления: ИИ сам решает, когда нужны внешние инструменты. Шаг к надёжному ИИ в бизнесе. 🤖 ВК
Google предложила «верную неуверенность»
Исследователи Google представили концепцию «верной неуверенности» — модель может сказать: «Моя лучшая догадка — …». Сейчас борьба с галлюцинациями — жёсткий компромисс: снижение ошибок до 5% отбрасывает 52% правильных ответов. Авторы называют это «налогом на полезность».
Новый подход: галлюцинация — это уверенная ошибка, поданная авторитетно. Если модель выражает неуверенность, она отвечает, не вводя в заблуждение. Для агентных систем это критический слой управления: ИИ сам решает, когда нужны внешние инструменты. Шаг к надёжному ИИ в бизнесе. 🤖
