Спекулятивное декодирование (speculative decoding) принято считать чисто системной оптимизацией: небольшая черновая модель предлагает токены, а большая целевая их проверяет, и за счёт этого генерация ускоряется, а поведение модели не меняется. Из этого следует, что усилия по обучению более удачных черновых моделей сводились к одному, повысить долю принятых токенов (acceptance rate). Авторы препринта с Hugging Face утверждают, что для рассуждений ИИ-агентов с длинным горизонтом такой взгляд неверен...
ИИтог
Dharma-AI выпустила Field Extractor: 2 млрд параметров, поля из документов в JSON
Dharma-AI опубликовала в блоге на Hugging Face описание Dharma Field Extractor: модели на 2 млрд параметров, которая принимает изображение документа и возвращает структурированный JSON с типизированными и, где нужно, вложенными полями. Идея в том, что обычное распознавание текста (OCR) отдаёт всё напечатанное на странице построчно и не говорит, какая строка является датой, типом обследования или итоговой суммой; сопоставлять значения с полями должен чей-то код. Универсальная большая нейросеть с этим...
WebHarbor: 153 копии реальных сайтов для обучения и проверки веб-агентов
Агенты, которые управляют веб-интерфейсом (GUI web agents), нуждаются в реалистичных и интерактивных средах, остающихся стабильными и при оценке, и при обучении. Авторы работы указывают на две проблемы. Оценка на живых сайтах страдает от меняющегося содержимого, ограничений доступа и слабого покрытия сценариев, требующих входа в аккаунт. А существующие синтетические среды для обучения, по их словам, часто не дотягивают по функциональной глубине и визуальной достоверности. В ответ они предлагают WebHarbor, набор из 153 исполняемых сайтов-сред в Docker-контейнерах...
Route Anything: исследование маршрутизации моделей на 374 тысячах прогонов
Исследование Route Anything исходит из идеи, что путь к универсальному ИИ (AGI) лежит не через одну модель, которая умеет всё, а через объединение разнородных специализированных моделей, инструментов и политик (в работе они называются кандидатами) в единую систему. Ключевой вопрос: как системе динамически выбирать и координировать наиболее подходящего кандидата для каждой задачи, балансируя качество и вычислительные затраты. Авторы предлагают единый фреймворк для изучения маршрутизации моделей и политик в ИИ-системах общего назначения...
Представлен ИИ-агент MoLRSI: сам улучшает поиск молекул, 15,9% попаданий против 8,7%
В препринте представлен MoLRSI, ИИ-агент для поиска молекул. Он сочетает систематическую оптимизацию рабочих процессов (workflow) и архитектур моделей с постоянной памятью, общей для разных задач, и за счёт этого рекурсивно улучшает собственную политику поиска. Результаты работы процессов, итоги доработок и обратная связь от выполнения направляют следующие поиски, поэтому агент совершенствует и сами рабочие процессы, и стратегию их разработки. Исходная проблема, как её формулируют авторы: поиск молекул...
DreamX: видеодиффузионную модель превратили в обучатель латентных действий
В препринте представлен DreamX, подход, который переиспользует предобученную видеодиффузионную модель как универсальный «обучатель» латентных действий. Задача, которую решают авторы: научиться представлению действия по видео так, чтобы оно было устойчивым для разных исполнений одного и того же действия и при этом не зависело от смены воплощения (человек или робот) и внешнего вида сцены. По утверждению авторов, существующие модели латентных действий выводят действие из визуальных переходов между кадрами, но их представления часто смешивают само действие с посторонними визуальными вариациями...
