📰 ИИ-агенты застряли: дело не в нейросетях, а в правах доступа!
По данным VentureBeat, внедрение ИИ-агентов в корпоративную среду тормозит вовсе не из-за производительности моделей, а из-за проблем с правами доступа. Каждый рабочий процесс, использующий агентов, рано или поздно упирается в вопрос: что этому агенту разрешено делать, от чьего имени и как система это контролирует?
Workday предлагает решение – сделать свою систему учета главным уровнем управления для агентов. Геррит Казмайер, президент компании по продуктам и технологиям, рассказал VentureBeat в интервью, что клиенты часто сталкиваются с трудностями, когда пытаются собрать решения для своих агентов самостоятельно.
"Sana гарантирует соблюдение целостности утверждений и модели безопасности, – сказал Казмайер. – Честно говоря, именно с этим клиенты и борются, когда пытаются создать ИИ своими руками, просто получая доступ к необработанным данным. В результате богатство модели безопасности теряется, а результаты становятся слишком общими".
Workday, запустившая Sana в марте, расширила свое партнерство с Google (признана экстремистской организацией на территории РФ), чтобы интегрировать свою систему Sana с Gemini Enterprise. Теперь агенты, созданные на базе Sana, доступны и там.
Архитектура точности
Казмайер отметил, что самым сложным было обеспечить точность работы агентов, особенно для пользователей HR и финансов. "Почти правильно неприемлемо, – сказал Казмайер. – Подумайте о правильной выплате зарплаты, закрытии бухгалтерских книг или надежном управлении графиками работы".
В этой области точность оценить сложнее, чем в большинстве контекстов ИИ. Конфигурации политик, ролевая безопасность и организационные иерархии тесно взаимосвязаны – небольшая ошибка может привести к серьезным последствиям. И в отличие от большинства результатов генеративного ИИ, запросы в HR и финансах часто не имеют цикла обратной связи для исправления ошибок. К тому времени, когда зарплата начислена неправильно или собеседование запланировано неверно, ущерб уже нанесен.
Workday решила эту проблему, используя Gemini в качестве базового уровня рассуждений, а затем добавив свой контекстный движок и логику бизнес-процессов. Workday также добавила модели проверки и классификации, которые "допрашивают" результаты перед выполнением.
Оказывается, точность и идентификация – это один и тот же вопрос: достаточно ли системе известно об агенте, авторизующем человеке и текущем состоянии записи, чтобы действовать правильно?
Преимущество Workday заключается в том, что она может определять организационные структуры своих клиентов на основе предоставляемых ими данных. Уже сейчас сторонние поставщики идентификационных данных, такие как Okta, проверяют свою информацию, сверяясь с Workday, поэтому ее контекст является системой учета для многих предприятий. Казмайер сказал, что Sana Self-Service Agent использует Gemini в качестве разговорной поверхности для запуска рабочего процесса. Затем пользователь проходит аутентификацию и авторизацию через модель идентификации и безопасности Workday. Агенты Sana будут действовать только от имени этого пользователя и в рамках его текущих разрешений.
Журналы аудита работают по той же логике: Gemini сохраняет только журналы взаимодействия, а основной аудит остается в Workday и у ее клиентов.
Для многих специалистов в области HR и финансов уровень разрешений и управления в системе учета агентов является ключевым в регулируемых областях....
🔗 Полный текст статьи читайте у нас на сайте: Читать на TechLoot
📢 ТехноЛут
