Японская Fujitsu объявила создании технологии для самообучающихся мультиагентных ИИ-систем. Такие системы должны сами адаптироваться к изменениям в бизнес-процессах и меньше зависеть от ручной настройки со стороны специалистов. По замыслу компании, группы ИИ-агентов смогут анализировать собственные ошибки и удачные решения, делать из них практические выводы и использовать этот опыт в следующих задачах — без постоянной корректировки промптов, критериев оценки и правил поиска информации.
В крупных организациях постоянно что-то меняется — обновляются регламенты, меняется законодательство, выходят новые версии систем и спецификаций. Чтобы понять, какие документы важны в конкретной ситуации и какие критерии считать приоритетными, обычно нужен опыт квалифицированных сотрудников. Существующие ИИ-агенты могли работать по заданным инструкциям, но не умели самостоятельно разбирать причины сбоев и учитывать эти выводы в следующих запросах.
Fujitsu протестировала технологию в двух направлениях. Первое — автоматизированная доработка корпоративных языковых моделей. В этом сценарии мультиагентная система сама управляет циклом отбора данных, настройки условий обучения, оценки и улучшения модели. После применения технологии к собственной LLM Takane в четырех отраслевых доменах точность выросла в среднем на 28 процентных пунктов относительно базового уровня до специализации. В производстве показатель поднялся с 56,3% до 94,3%, в финансах — с 41,9% до 82,8%, в государственном управлении — с 39% до 63,6%.
Второе направление — поиск по проектной документации в крупных корпоративных системах. Fujitsu применила технологию к электронной медицинской карте для средних и крупных больниц, а также к системам автоматизации органов местного самоуправления. ИИ-агенты обучались на прошлых поисковых запросах, неудачных случаях и правках со стороны людей, а затем начали сами расширять подход к подбору документов. В частности, система проверяла смежные материалы и не отбрасывала документы из той же бизнес-области, даже если на первый взгляд они казались нерелевантными.
Читайте также
ИИ-агент дороже человека, или что выяснили крупнейшие компании РФ, когда начали считать затраты
Ключевое отличие разработки от стандартных агентных систем — механизм проверки улучшений. ИИ-агенты не просто предлагают изменения, а оценивают их эффективность и сохраняют только те решения, которые оказались полезными. По версии Fujitsu, это помогает системе развиваться и снижает риск накопления ошибок.
Fujitsu планирует встроить технологию в платформу Kozuchi AI и предлагать ее клиентам как инструмент для создания и самостоятельной эксплуатации отраслевых ИИ-решений. Сейчас система развернута в облаке компании. В будущем ее также хотят сделать доступной для локальной установки в инфраструктуре заказчика или на периферийных устройствах.
При этом безопасность таких систем остается отдельной проблемой, особенно если ИИ-агенты получают доступ к корпоративным данным. Они могут поддаваться манипуляциям, раскрывать конфиденциальную информацию или влиять на решения сотрудников. Дополнительный риск связан с ростом кибератак с использованием ИИ, оторые повышают уязвимость корпоративных сервисов.