Команда «Ингосстраха» опубликовала на Хабре исследование о том, как по логарифмам вероятностей токенов (logprobs) находить поля, в которых языковая модель при распознавании паспортов РФ ошиблась, но выдала синтаксически безупречный ответ. Когда модель извлекает данные из скана паспорта и возвращает корректный JSON, ни банк, ни страховая не видят ошибку в фамилии или номере документа без ручной проверки. Метод logprobs превращает «слепое доверие» в измеримый риск по каждому полю. Центр развития искусственного...