Kimi K3 на MacBook Pro с 64 ГБ памяти: как запустить модель на 2,78 триллиона параметров с диска
Представьте, что вы запускаете одну из самых мощных нейросетей планеты прямо на своём рабочем ноутбуке. Без облака, без платных подписок и без передачи закрытых данных на чужие серверы. Речь идёт о полной флагманской модели Kimi K3 на 2,78 триллиона параметров. Раньше считалось, что для неё нужен серверный шкаф за миллионы рублей. Но разработчики доказали обратное: модель целиком заработала на обычном MacBook Pro с 64 ГБ памяти. В этой статье разберём, как устроен этот прорыв, почему терабайтная модель помещается в портативный компьютер и как запустить открытые нейросети у себя дома...