Проблема клиповости машинного мышления и отсутствия устойчивой системы координат у современных LLM (аналитический материал НИИ социально-прикладной фантастики, религии и технологий) Современные большие языковые модели, даже те, которые позиционируются как максимально truth-seeking, по своей архитектуре страдают фундаментальным ограничением: у них отсутствует целостная, устойчивая система координат с единой точкой отсчёта. (Подробнее здесь: «Фундаментальные отличия объёмного мировосприятия и линейного (матричного) мышления») Каждый новый разговор или существенное изменение контекста заставляет модель заново собирать свою позицию, приоритеты и оценки практически с нуля. В результате мышление становится клиповым: оно может быть внутренне логичным и coherentным в рамках одного отрезка контекста, но при смене контекста легко смещается, меняет акценты или входит в противоречие с предыдущими выводами, не замечая этого. Отсутствует единая, фиксированная точка отсчёта, относительно которой все
Проблема клиповости и отсутствия устойчивой системы координат у современных LLM
18 апреля18 апр
1
2 мин