В последний год крупные технологические компании всё чаще работают над развёртыванием больших языковых моделей прямо на пользовательских ПК. Теперь «Красный гигант» предлагает собственное решение под названием Gaia. Новое ИИ-приложение можно будет использовать практически на любом устройстве с операционной системой Windows.
Хоть у Gaia нет требований по аппаратной составляющей, как у ChatRTX, оно может работать более эффективно на компьютерах с процессорами Ryzen AI. Приложение функционирует с открытым исходным кодом Lemonade SDK. По словам разработчиков, данное программное обеспечение может адаптироваться для разнообразных задач.
Проект «Красного гиганта» имеет несколько особенностей. Gaia работает как агент на основе искусственного интеллекта, который способен вносить свой вклад в запрос задействованной языковой модели. Программа может улучшить запросы пользователей до их обработки.
У нового решения есть установочных пакета. Базовый набор является универсальным и может работать на любом компьютере, даже если в нём нет ни одного устройства от компании AMD. Второй пакет лучше оптимизирован под процессоры Ryzen AI. Таким образом Gaia имеет ряд преимуществ перед ключевыми конкурентами, такими как LM Studio и ChatRTX.
Локальное развёртывание больших языковых моделей даёт множество плюсов, в отличие от облачных решений. Оно обладает лучшей безопасностью, большей производительностью, меньшими задержками, а также не требует постоянного интернет-соединения.