Нейросеть с 2,8 триллиона параметров работает на ноутбуке с 64 ГБ памяти — звучит как история с обязательной оговоркой мелким шрифтом. У Deltafin оговорка вполне заметная: модель хранится преимущественно на SSD, занимает около 1,7 ТБ, а заявленная скорость на M1 Max составляет 0,2901 токена в секунду. Один небольшой фрагмент ответа появляется примерно каждые 3,45 секунды. И всё же за этим медленным набором текста скрывается интересная инженерная работа. Разработчики пытаются сохранить полный набор...