Теперь Apple очень интересуется этим стартапом Стартап PrismML взял за основу открытую модель Qwen на 27 миллиардов параметров и уменьшил размер более чем в 10 раз – с 54 гигабайт до 3,9 – сохранив примерно 90% качества ответов. После чего запустил её на iPhone 17 Pro Max. Полученную модель назвали Bonsai, она работает на телефоне, без обращения к облачным серверам, и отвечает с приемлемой скоростью (около 11 токенов в секунду). Модели с таким количеством параметров раньше в память смартфона не помещались...