Найти в Дзене
Покупайте СтеллыИ дарите их за контент
1 неделя назад

«950 запросов в час» — а сколько ждать покупателю?

Пять запросов можно обработать за 56 секунд — и выдать первый ответ через 4 или через 40 секунд. Это наш учебный расчёт, а не тест модели: он показывает, почему перед запуском ИИ-бота мало знать «запросы в час». 5 ноября автор vechersky опубликовал CPU-пилот на Хабре: небольшие языковые модели выполняли короткие рабочие задачи на сервере без видеокарты. Около 950 запросов в час — его оценка для короткой классификации, связанной с QVikhr-3-4B, а не обещание для любого диалога с покупателем. В ответе...

1 неделя назад

Переносите ИИ-бота в MAX? Проверьте, чью память он читает

Одинаковое число в двух мессенджерах ещё не означает одного клиента. Если ИИ-бот читает общую историю заказов, сначала проверьте, по какому ключу он её находит: на учебном примере покажем, где теряется граница между пользователями. В новом авторском разборе разработчик «Лизы Петровны» описал подключение MAX к существующему Telegram-ассистенту. Сообщения из двух мессенджеров попадают в общее ядро, а для связи аккаунтов предусмотрена отдельная таблица соответствий. Это полезный повод для владельца...

1 неделя назад

ИИ ставит 0,9 — и это ещё не 90% верных заявок

Бот предлагает отправить обращение в отдел и показывает 0,9. Прежде чем доверить ему очередь заявок, разберём, что означает это число и как проверить его на понятном учебном примере. Автор нового разбора на Хабре собрал MiniJev на Qwen2.5-1.5B-Instruct. Вместо длинного ответа код сравнивает оценки букв, обозначающих варианты решения, и превращает их в числа с суммой 1. В статье есть отдельный этап калибровки — настройки этих оценок по размеченным примерам. Это свежая реализация подхода, а не новый релиз Qwen или копия обученной модели Jev...

1 неделя назад

Бесплатный «Джарвис» на ПК: почему MIT не покрывает его голос

У бесплатного голосового помощника для Windows можно найти MIT рядом с кодом — и совсем другие условия рядом с моделями. Перед запуском в мастерской разберём права на голос, требования к ПК и одну учебную проверку. 3 ноября разработчик App AI Assistant рассказал об устройстве проекта: локальная языковая модель, распознавание речи и озвучка работают отдельными компонентами. Ассистент умеет вести диалог, прерывать ответ и запускать подготовленные пользователем Python-скрипты — это описание автора...

1 неделя назад

Koda 1.3: «ошибки нет», а задача остановлена. Как читать отчёт агента

В отчёте Koda 1.3 может стоять is_error: false, хотя агент остановился по лимиту ходов. Разберём, как прочитать такой результат и принять готовый файл, прежде чем отдавать работу дальше. 3 ноября команда анонсировала KodaCode 1.3: управление приложениями, встроенный браузер в Desktop и расширенный неинтерактивный режим CLI. Для билдера особенно полезна последняя часть: программу можно включить в обработку задач и получать машинночитаемый отчёт. При подготовке материала в npm была CLI 1.3.1; отчёт о сбое ниже относится к плагину 1...

1 неделя назад

Просили OCR прочитать счёт. В обработчике ответа нашли eval

Вы хотите получить текст счёта — а в коде, который обрабатывает ответ OCR, находится eval, выполнение выражения Python из строки. Разберём находку в Unlimited OCR 2 и соберём узкий пилот, в котором ответ модели остаётся данными. 2 ноября пользователь aleps001 открыл отчёт об обработчике координат. Он показал выполнение выражения из специально подготовленной строки ответа. Это проверка отдельного парсера: изображения или промпта, которые заставляют модель выдать такую строку, автор не продемонстрировал...

Покупайте СтеллыИ дарите их за контент