Найти в Дзене

Google открыла архитектуру для Edge AI: Coral NPU 🔥🤖

Google Research представила Coral NPU — открытую, “full-stack” платформу для локального ИИ на устройствах: от часов и наушников до IoT-железа. Идея простая: модели крутятся прямо на девайсе, без облака → почти нулевая задержка и максимум приватности. developers.googleblog.com
Что внутри платформы:
— Открытая аппаратная архитектура NPU на базе RISC-V, которую можно интегрировать в свои SoC/устройства.
— Единый дев-стек и тулзы: компиляция/квантование/оптимизация через open-standard цепочку MLIR/LLVM.
— Поддержка популярных фреймворков и форматов для инференса на краю: LiteRT (TensorFlow Lite), PyTorch, JAX и т.п.; работать можно из Python и C++, включая микро-устройства.
(Про ONNX: напрямую в анонсе не акцентировали, но через стандартные пайплайны конвертации это обычно решается — так что лучше воспринимать как “возможность через инструменты”, а не гарантированную кнопку “ONNX-в-лоб”.)
Производительность: до ~512 GOPS — это 512 миллиардов операций в секунду при очень низком энергопотреблении (уровень милливатт), то есть реально под постоянный “always-on” ИИ.
Зачем это важно:
— меньше зависимости от облака (и интернета),
— лучше приватность (данные остаются на устройстве),
— меньше зоопарка проприетарных NPU и адских компиляторов под каждый чип.
Короче: Google пытается сделать “Android для нейрочипов на краю” — общий открытый стандарт, чтобы Edge AI не был лоскутным одеялом.
#Google #CoralNPU #EdgeAI #AI #нейросети #железо #RISC_V #IoT #Wearables
Google открыла архитектуру для Edge AI: Coral NPU 🔥🤖 Google Research представила Coral NPU — открытую, “full-stack” платформу для локального ИИ на устройствах: от часов и наушников до IoT-железа.
1 минута