2 месяца назад
Thinking Machines Lab открыла Inkling-Small: 276 млрд параметров, мультимодальность и контекст на миллион токенов
Thinking Machines Lab представила Inkling-Small — крупную мультимодальную языковую модель с открытыми весами, рассчитанную на рассуждения, программирование и работу с текстом, изображениями и аудио. Несмотря на слово Small в названии, компактной эту модель назвать трудно. Она содержит 276 миллиардов параметров, поддерживает контекстное окно размером до одного миллиона токенов и даже в квантованном виде требует около 180 ГБ видеопамяти. При этом Inkling-Small оказалась сильнее своей более крупной версии в нескольких тестах на агентное программирование и сложные рассуждения...