Как правило у большинства компаний сценарий внедрения ИИ инструментов одинаковый, потому что всё идет по примерно одному пути.
Практически ни у какой компании в мире нет ресурсов на обучение своей собственной модели, так это требует очень и очень больших мощностей. Но уже сейчас получается так, что если ты не используешь ИИ ассистента в работе, то ты теряешься в гонке за производительностью.
И выходов не так уж чтобы много. Давайте рассмотрим самые основные:
- Использовать API других моделей (но тут будет утечка данных)
- Пойти через RAG - "докормить" модель данными. Делается это так: скачивают уже готовую модель, благо в интернете их полно, настроить векторное хранилище (индексацию документов/знаний компании), сделать подкладку фрагментов документов в ответ. Тут качество зависит от качества базы знаний и поиска, соответственно нужна очень качественная документация.
- Взять open-source модель и доделать под себя. Тут тоже скачивают модель, очень лайтово допиливают (LoRA/адаптеры) на своих примерах: стиль ответов, классификация, извлечение полей, соблюдение регламентов, доменная терминология. И тут часто комбинируют: RAG + небольшой fine-tune.
Риски и минусы тут такие:
• нужно уметь готовить датасет (самое больное место);
• легко перетюнить и ухудшить общую адекватность;
• нужна инфраструктура (GPU/серверы, MLOps, мониторинг)
• могут быть вопросы лицензий и юридических ограничений на веса/данные
Какой бы путь компания не выбрала, реализация подобной системы требует значительных и ответственности, при этом, не сказать что в масштабах компаний ИИ это прямо "манна небесная".
Опрос Gallup, проведенный в ноябре показал, что только 18 % работников в США используют инструменты ИИ еженедельно, и только 8 % используют ИИ ежедневно, что свидетельствует о его ограниченном применении на рабочем месте. Отдельный опрос PwC опросил 50 000 работников по всему миру показал аналогичные результаты: 14 % респондентов ежедневно используют генеративный ИИ (genAI), а 6 % ежедневно взаимодействуют с ИИ-агентами.
Тем не менее вероятнее всего, что в ближайшем будущем некоторые организации выйдут за рамки пилотных ИИ проектов. В различных мировых компаниях есть признаки того, что уже в этом в этом году они намерены перейти от экспериментов к более широкому внедрению.
Компании всё больше опасаются отстать от конкурентов, если не внедрят эту технологию, особенно учитывая её потенциал в плане оптимизации совместной работы и экономии времени.
А раз технология набирает оборот, тогда целесообразно подсветить не только все плюсы от внедрения ИИ в масштабах компаний, но и потенциальные риски с этим связанные.
Я регулярно разбираю такие темы в своём Telegram-канале, если вам интересно глубже понимать аналитику и работать с данными, там регулярно выходят короткие заметки и практические примеры.
Безопасность и доступы
В пилоте обычно все чисто: тестовые данные, понятные и обезличенные запросы, пара документов для примера проверки работы, доступы через отдельный аккаунт. В проде же ассистент должен читать корпоративные источники - базы знаний, тикеты, регламенты, договоры, письма, BI, HRIS, иногда даже куски финансов. И тут выясняется, что самый важный вопрос не в том какая модель лучше, а кто имеет право видеть что и в каком контексте.
AI-ассистент - это не приложение, которое просто открыли. Это новый слой доступа к информации. Если его не посадить на рельсы RBAC/ABAC, журналирования и политик, он превращается в идеальный инструмент случайной бытовой утечки.
Правила или их отсутствие
В пилоте вы часто не отвечаете на вопросы: кто владелец промптов, кто владелец базы знаний, кто утверждает источники, кто несет ответственность за ответ ассистента. В проде эти вопросы могут и будут задаваться.
Может появляться напряжение плюсы/минусы.
Плюс очевиден - сотрудники реально начинают экономить часы.
Минус уже не совсем такой очевидный - один неверный ответ может стоить денег, репутации или юридического риска для компании. Поэтому в масштабе компаниям нужен не чатик, в котором можно пообщаться и решить вопрос, а контур управления качеством: версии, роли, критерии приемки, правила обновления знаний, понятный процесс инцидентов. А это, возможно, потребует создание отдела по качеству ИИ. Это похоже на внедрение ERP, только под видом простого чата.
Данные и интеграции
Пилот часто держится на PDF-ках и статических регламентах. Но настоящая ценность ассистента появляется, когда он умеет работать с живыми системами: статус заявки, остатки, SLA, актуальная версия политики, изменения в KPI, витрина данных.
И тут вы сталкиваетесь с болезнью интеграций: разрозненные справочники, разные определения одного и того же, устаревшие базы знаний, серые хранилища, а также ручные выгрузки. Ассистент становится лакмусовой бумагой. Он показывает, что в компании есть не дефицит AI, а дефицит нормальных данных.
Надежность
Пилоту достаточно, чтобы в целом всё работало. В проде же нужно, чтобы работало всегда, предсказуемо и объяснимо: одинаковый запрос - одинаковое качество, контроль так называемых "галлюцинаций в мыслях ИИ", корректная работа на разных типах задач и т.п.
В масштабе вас начинает волновать не среднее качество, а хвосты распределения. Редкие ошибки - те самые, что всплывают в самые неподходящие моменты и попадают в чаты руководства. Поэтому масштабирование почти всегда упирается в связку: ограничение сценариев + контроль источников + проверка критичных ответов.
Пилот делают энтузиасты, прод делают все остальные
Ну и напоследок одна из самых недооцененных причин. Пилот обычно живет на энергии небольшой команды, которая умеет спрашивать, умеет перепроверять, понимает ограничения. В прод вы приходите к пользователю, который не хочет учиться промптингу, не хочет думать о качестве данных и не обязан быть аккуратным. Он хочет одну работающую кнопку - сделай.
А ведь ассистент - это продукт изменения поведения. Нужны обучение, примеры, правила промптов, поддержка, лидерство, и главное - ясный ответ на вопрос сотрудника: зачем мне это, если завтра с меня спросят за результат?
Вывод
Распространение ИИ в рамках целой компании это очень прорывное и масштабное событие. При этом, для полноценного поддержания системы нужны люди, которые будут отвечать за контроль моделей, их качество, отслеживать метрики, а также управлять всем этим.
При наличии такой команды внедрение будет успешным. И тогда AI-ассистент становится тем, чем он должен быть в корпорации - инструментом управления производительностью, а не генератором красивых ответов.