Текст подготовил: Андрей Федорчук
On-device AI - это запуск нейросети на устройстве пользователя, без отправки данных в облако. Даёт нулевую задержку, снижает расходы и решает вопросы защиты данных.
Вчера в ТЦ на Кутузовском наблюдал картину. Парень наводил телефон на полку с йогуртами, ждал 3 секунды ответа приложения Х5 - и просто закрыл приложение. Ушёл ни с чем.
Таких потерь с облачным ИИ сейчас у каждого крупного ритейлера по миллиону в месяц. Дальше покажем как это исправить, сколько можно сэкономить и где уже работает в РФ.
Пошаговый переход на локальный ИИ
Шаг 1. Выберите подходящую локальную SLM
Берите модели Phi-4, Gemma 3 или Llama 4-Mobile. Все работают на менее 4 ГБ оперативной памяти.
Они дают качество облачных моделей 2024 года. Этого достаточно для 95% задач ритейла.
Ошибка: не берите большие модели. Они убьют заряд телефона пользователя за 15 минут работы.
Пример РФ: сеть Магнит сейчас тестирует именно Llama 4-Mobile в своём приложении.
Шаг 2. Настройте первичную обработку на устройстве
Все операции с фото, голосом и историей покупок делайте локально. Отправляйте в облако только чистые метаданные, не исходные файлы.
Это сразу снижает трафик на 90% и убирает риски утечки персональных данных.
Ошибка: не отправляйте в облако сырые кадры с камеры. За это с 2026 года штраф до 1% годового оборота.
Шаг 3. Подключите гибридную архитектуру с Make.com
On-device AI классифицирует запрос. После этого передайте метаданные через Webhook в Make.com.
Там запускайте обновление CRM, заказ со склада, рассылку персональных предложений.
Ошибка: не перекладывайте всю логику на устройство. Оставьте сложные цепочки в облаке.
Шаг 4. Делегируйте задачи на NPU чип
При разработке приложения явно указывайте запуск ИИ на нейронный процессор смартфона, а не на основной процессор.
Это снижает потребление энергии на 40% и предотвращает перегрев устройства.
Ошибка: не оставляйте выбор чипа на усмотрение операционной системы. В 70% случаев он выберет не тот чип.
Шаг 5. Разверните локальный семантический поиск
Загружайте векторные эмбеддинги топ 1000 популярных товаров прямо на устройство пользователя при первом запуске приложения.
Поиск будет работать мгновенно даже при плохом сигнале внутри ТЦ.
Ошибка: не храните там весь каталог. Ограничьтесь товарами которые покупают 80% пользователей.
Шаг 6. Настройте fallback стратегию
В Make.com создайте простой сценарий мониторинга уверенности локальной модели.
Если уверенность ниже 85% - автоматически перенаправьте запрос на облачную модель.
Так вы получите преимущества обоих подходов без компромиссов.
Сравнение облачного и локального ИИ
Кому это сэкономит деньги прямо сейчас
Переход оправдан если вы попадаете хотя бы в один пункт:
- У вас мобильное приложение ритейлера с более 50 тысяч активных пользователей в месяц
- Вы используете визуальный поиск, AR примерки или голосовые ассистенты
- Вы платите больше 50 тысяч рублей в месяц за облачные нейросети
- Вы получили предписание Роскомнадзора по обработке персональных данных
- У вас падение конверсии на этапе поиска товаров в приложении
Для маленьких магазинов с аудиторией меньше 10 тысяч пользователей переход пока не окупится.
Частые вопросы
Нейросеть на устройстве не будет тормозить телефон?
Современные оптимизированные SLM используют менее 4 ГБ оперативной памяти и работают на отдельном NPU чипе. Пользователь не заметит разницы в скорости работы телефона.
Можно ли обновлять локальную модель?
Да. Обновления весом около 2 ГБ загружаются один раз в месяц при подключении к wifi. Пользователь обычно даже не видит процесс обновления.
Насколько это законно в РФ?
На май 2026 года это единственный подход который автоматически удовлетворяет требования нового ФЗ-152 про невывоз персональных данных.
Можно ли подключить это без разработчиков?
Готовые модули для Make.com позволяют настроить гибридную логику без написания кода. Интеграция с существующим приложением занимает 3-5 рабочих дней.
А что с качеством ответов?
Локальные модели 2026 года равны по качеству облачным моделям конца 2024 года. Для всех стандартных задач ритейла этого более чем достаточно.
Сколько времени занимает переход?
Для готового приложения полный переход на гибридную архитектуру занимает от 2 до 4 недель.
А вы уже тестировали локальный ИИ в своих проектах? Пишите в комментариях какой результат получили. Подпишитесь чтобы не пропустить разбор реальных кейсов внедрения в российских сетях.
#иивритейле, #ondeviceai, #edgecomputing