Для большинства пользователей Ubuntu взаимодействие с чатботом с искусственным интеллектом означает открытие веб-браузера или (все чаще) IDE. Newelle, приложение на GTK4/libadwaita, предлагает другой подход.
Newelle позиционирует себя как ваш идеальный виртуальный помощник, но он не настолько автономен, предвосхищает события и не такой уж «flash-bang-wow», как это звучит.
Это просто GUI-фронтенд GTK для LLM – water LLM LLM, размещенные на хостинге, такие как Gemini, ChatGPT, Groq и т.д., или локальные модели с открытым исходным кодом, которые вы запускаете на своем собственном оборудовании (в идеале в Ollama экземпляре).
Локальные модели имеют множество преимуществ с точки зрения конфиденциальности данных и надежности модели, но имеют существенный недостаток в скорости: Для эффективной работы LLM требуются мощные графические процессоры, а большинство моделей несколько гигабайт.
Особенности Newelle
Newelle включает в себя ряд особенностей, которые помогают ему выделиться на фоне браузерных инструментов (или веб-оберток для них).
Он поддерживает голосовой чат с использованием моделей Speech-to-Text и TTS, может выполнять веб-поиск и даже запускать команды терминала за вас. Вы можете перетаскивать документы в Newelle, чтобы пообщаться с их содержимым, и использовать встроенный файловый менеджер для управления файлами с помощью искусственного интеллекта (eek).
Newelle имеет настройку включения долговременной памяти для сохранения информации, что удобно, если вы не любите повторяться и хотите полагаться на уже изложенное. Вы также можете сохранять/редактировать подсказки, чтобы избавить себя от необходимости вручную отслеживать каждый новый чат.
Приложение также поддерживает расширения, чтобы вы могли добавлять специфические функции, например создание изображений с помощью Stable Diffusion.
Для более быстрого доступа во время работы в другом месте можно создать пользовательскую комбинацию клавиш, чтобы открыть мини-режим, занимающий меньше места. На GitHub проекта описаны команды, которые нужно привязать к сочетанию клавиш, чтобы запустить его.
В целом Newelle предлагает солидный набор возможностей, а настройка относительно проста.
Для использования онлайн-провайдера, таких как ChatGPT, Gemini или Claude, необходимо предоставить собственный ключ API. Демонстрационная облачная модель включена из коробки, но ограничена 10 ответами в день.
Некоторые функции, включая парсинг документов, генерацию изображений и рендеринг LaTeX, работают только с определенными LLM, но включенная функция Profiles позволяет легко настраивать различные конфигурации для разных моделей и быстро переключаться между ними.
Стоит ли использовать? Решайте сами!
Мне не удалось испытать на себе будущее ИИ-ассистента с расширенной настройкой, гибкой поддержкой моделей и бесшовной интеграцией, как гласит рекламный ролик, поскольку демо-сервер Newelles был отключен (а у меня нет API-ключей к другим сервисам).
Однако, если ИИ – это молоток, это не значит, что все вокруг – гвозди. В равной степени это не означает, что не существует гвоздей – или натянутых метафор, основанных на инструментах, – которые не выиграли бы от хорошего отбивания.
Если вы хотите узнать, достаточно ли Newelle для ваших нужд, ассистент доступен на Flathub.