1 неделю назад
Как начать пользоваться SubQ 1M -- первый субквадратичный LLM с 12-миллионным контекстом
Что это и для кого SubQ 1M -- это языковая модель нового поколения от Miami-стартапа Subquadratic, запущенная 5 мая 2026 года. Её принципиальное отличие от всех существующих LLM -- архитектура, которая масштабируется линейно с ростом контекста, а не квадратично, как у трансформеров. Чтобы понять, почему это важно, нужно немного разобраться в проблеме. Все современные крупные языковые модели -- GPT, Claude, Gemini, Llama -- основаны на архитектуре трансформера с механизмом attention (внимания). Этот механизм работает так: для обработки каждого нового токена модель должна сравнить его со всеми предыдущими токенами в контексте...