Модели знают 95–98% фактов, но не могут извлечь до трети из них. Оказалось, что порядок слов в вопросе может полностью заблокировать доступ к информации в памяти ИИ Исследователи Google Research опубликовали работу, которая показывает: передовые большие языковые модели кодируют 95–98% протестированных фактов, но не могут извлечь 26–34% из них при прямом вопросе. Это не ошибка в знаниях, а сбой в доступе к уже сохранённой информации. Авторы предложили метод, названный knowledge profiling — «профилирование знаний»...