Microsoft показала ультраэффективную AI-модель для CPU
Microsoft представила BitNet b1.58 2B4T — крупнейшую на сегодня «бит-сеть» (bitnet), которая способна работать не на GPU, а на обычных процессорах, включая Apple M2, Intel и AMD. Модель опубликована с открытым исходным кодом под лицензией MIT.
BitNet использует лишь три значения весов — -1, 0, 1, что делает её в разы более памяти- и энергоэффективной по сравнению с классическими моделями. При размере 2 миллиарда параметров она была обучена на 4 триллионах токенов и опережает по ряду тестов такие модели, как Llama 3.2, Gemma 3 и Qwen 2.5.
Что важно:
• Работает на CPU с поддержкой AVX2/AVX-512
• Быстрее аналогов примерно в 2 раза
• Существенно экономит память
• Подходит для слабых и компактных устройств
Минус — Для запуска требуется специальная библиотека bitnet.cpp, которая пока ограничена по совместимости.
📂 AI FILES 📂
BitNet — один из примеров того, как можно создавать ИИ для маломощных машин без жертв в скорости и качестве.
