Вагнер скрипку настроил свою!
Механистические индикаторы понимания в крупных языковых моделях
Авторы: Пьер Бекманн и Матье Келоз Аннотация: Крупные языковые модели (LLM) часто представляются как просто имитирующие лингвистические паттерны без подлинного понимания. Мы утверждаем, что недавние открытия в области механистической интерпретируемости (MI) — новой области, исследующей внутреннее устройство LLM, — делают эту картину всё более несостоятельной, но только в том случае, если эти открытия будут интегрированы в теоретическую концепцию понимания. Мы предлагаем многоуровневую структуру для...