Найти в Дзене

Быстрее, проще, автономнее: как Cactus меняет работу ИИ на телефоне (бесплатно)

Если коротко — что это за зверь такой, этот ваш Cactus? Почти каждый из нас слышал про умные голосовые помощники, автоответы в мессенджерах, моментальный перевод текста и даже камеры в телефоне, которые сами подбирают идеальный кадр. Всё это — примеры работы искусственного интеллекта (ИИ) прямо у нас в кармане, на обычном смартфоне. Только вот мало кто задумывается, сколько сил и энергии ест такая "умная" обработка, и насколько всё это может быть медленным без особых хитростей. А теперь представьте себе: появляется открытый (то есть бесплатный и доступный всем) движок Cactus, который буквально учит ваш смартфон "думать" в 1,5–2 раза быстрее привычного — и при этом кушать батарейку куда экономнее. Где вся магия? Внутри вашего телефона Большинство современных смартфонов (особенно, если это Android или iPhone последних лет) работают на процессорах семейства ARM. Не вдаваясь в дебри: это такие чипы, которые выжимают максимум мощности при минимальном расходе энергии. И вот тут начинается

Cactus
Cactus

Если коротко — что это за зверь такой, этот ваш Cactus?

Почти каждый из нас слышал про умные голосовые помощники, автоответы в мессенджерах, моментальный перевод текста и даже камеры в телефоне, которые сами подбирают идеальный кадр. Всё это — примеры работы искусственного интеллекта (ИИ) прямо у нас в кармане, на обычном смартфоне. Только вот мало кто задумывается, сколько сил и энергии ест такая "умная" обработка, и насколько всё это может быть медленным без особых хитростей.

А теперь представьте себе: появляется открытый (то есть бесплатный и доступный всем) движок Cactus, который буквально учит ваш смартфон "думать" в 1,5–2 раза быстрее привычного — и при этом кушать батарейку куда экономнее.

Где вся магия? Внутри вашего телефона

Большинство современных смартфонов (особенно, если это Android или iPhone последних лет) работают на процессорах семейства ARM. Не вдаваясь в дебри: это такие чипы, которые выжимают максимум мощности при минимальном расходе энергии. И вот тут начинается самое интересное — если научить эти процессоры запускать ИИ-модели на полной скорости, не жертвуя временем работы устройства, открываются просто космические перспективы.

Cactus — это как супер-ускоритель для таких задач. Проект появился на GitHub 18 сентября 2025 года, и буквально за считанные дни собрал тысячи "звёздочек" (это что-то вроде лайков среди программистов — признак настоящего ажиотажа). Почему? Да потому что люди увидели: вот, наконец-то, движок, который позволяет прямо на телефоне генерировать текст, распознавать речь, делать офлайн-перевод и многое другое — всё быстро, без задержек, без страха разрядить телефон к обеду.

Скорость — не шутка

Для тех, кто любит цифры: на iPhone 13 Pro Cactus демонстрирует скорость генерации текста до 40 токенов в секунду. Если совсем по-простому: в среднем слово или два — каждую секунду, и всё это прямо на телефоне, без всяких "облачных серверов" и ожиданий. Для сравнения — ближайшие альтернативы выдают примерно 20–25 токенов в секунду на таком же железе. Получается, что Cactus почти вдвое быстрее.

Кто-то скажет: "Ну и что, эти ваши токены?" Тут важно понимать — когда вы пользуетесь ИИ для автодополнения текста, генерации писем, идей, или общения с голосовым помощником, каждая лишняя секунда ожидания может раздражать. А когда устройство справляется мгновенно, ощущения совсем другие. Не говоря уж о сценариях, когда интернет слабый или его вообще нет.

Энергоэффективность — ещё один козырь

Обычно, если что-то начинает работать быстрее, оно тут же начинает "жрать" больше энергии. Но с Cactus ситуация другая. За счёт того, как устроен движок, удалось добиться не только быстрого вывода моделей, но и экономного отношения к заряду. Программисты там реально поколдовали: минимальное энергопотребление при максимальной скорости — комбинация редкая.

Для пользователя это значит простую вещь: можно воспользоваться умным переводчиком или автосуммаризацией статьи в метро, по дороге на работу, и не бояться, что к вечеру телефон сдастся первым.

Зачем вообще нужен ИИ прямо на телефоне?

Может возникнуть резонный вопрос: а почему бы не решать такие задачи где-то на сервере, как это делают крупные компании? Тут всё упирается в приватность, скорость и автономность.

Во-первых, если ваш текст, речь или даже фотография обрабатывается прямо на устройстве, никуда не уходя в интернет, это сильно повышает уровень конфиденциальности. Никто не перехватит ваши данные по пути на сервер.

Во-вторых, всё происходит мгновенно, нет нужды ждать ответа из "облака". Особенно актуально для путешественников или тех, кто часто бывает вне зоны покрытия.

В-третьих, это просто удобно. Когда вся мощь ИИ работает у тебя в кармане, ты не зависишь от стабильности сети или причуд сторонних сервисов.

Что отличает Cactus от других?

В последние годы появилось немало решений, позволяющих запускать ИИ на телефоне. Однако у большинства из них есть либо проблема с производительностью, либо с энергопотреблением, либо они закрыты для большинства пользователей (лицензии, ограничения, плата за использование).

Cactus — полностью открытый проект. Любой желающий может посмотреть его код на GitHub, протестировать, внести свой вклад или адаптировать для своих нужд. Это как раз та редкая ситуация, когда новаторство встречается с настоящим энтузиазмом сообщества. Движок быстро становится базой для энтузиастов, разработчиков мобильных приложений, и даже для крупных компаний, которые хотят внедрить ИИ в свои продукты без зависимости от облачных сервисов.

Сценарии использования — фантазии и реальность

Попробуйте представить себе:

  • Офлайн-переводчик, который работает даже в самолёте;
  • Умный ассистент, помогающий писать письма или составлять заметки за секунды;
  • Система поиска фото на устройстве по описанию, даже если нет связи;
  • Автоматическая расшифровка голосовых сообщений в текст прямо "на лету";
  • Генерация идей, текстов, подсказок для контента — без подключения к интернету.

Все эти вещи становятся намного доступнее, если у вас под капотом работает что-то вроде Cactus.

Почему сейчас? И почему это важно?

В 2025 году стало очевидно: искусственный интеллект — это не просто модное слово, а инструмент, который уже прочно вошёл в повседневную жизнь. Но если ещё вчера всё держалось на мощных серверах, то сегодня ставка делается на автономность. Пользователям хочется больше контроля, приватности, быстроты, меньше зависимости от облака.

Cactus появляется ровно в этот момент. И не просто появляется, а задаёт темп — все сразу видят, что смартфон может быть по-настоящему умным, не теряя при этом своей автономии.

Кому стоит обратить внимание на Cactus?

Если ты разработчик мобильных приложений — это шанс внедрить ИИ в свой продукт, не тратя месяцы на оптимизацию. Если ты просто любишь эксперименты и интересуешься новинками — попробуй поставить, удивишься скорости. Для бизнеса — это способ ускорить внутренние процессы, не раскрывая корпоративные данные сторонним сервисам.

А если ничего из этого не подходит, просто знай: следующий умный помощник в твоём телефоне, вполне возможно, будет работать именно благодаря таким движкам, как Cactus.

Что дальше?

Пока проект только начал свой путь, но ажиотаж на GitHub намекает: за этим что-то большое. Сообщество уже обсуждает идеи по поддержке новых моделей, платформ, оптимизации под разные устройства (Android, iOS, да и вообще всё, что на ARM).

Можно не сомневаться — скоро мы увидим массу новых приложений, построенных на этой базе.

Всё самое интересное — на странице проекта:

Посмотреть Cactus на GitHub