Новая технология сжатия KV-кэша сокращает объем памяти LLM в 50 раз без потери точности. - https://ideipro.ru/novaja-tehnologija-szhatija-kv-kjesha-sokrashhaet-obem-pamjati-llm-v-50-raz-bez-poteri-tochnosti/