Нейросети уже прочно вошли в нашу реальность, а в 2024 еще одним "хайповым" нововведением стали ИИ-агенты. Наверное, почти каждый бизнес хотя бы раз за последний год задумался, как их можно себе настроить, и кого ими заменить.
Рассказываем, как доверить работу нейросетям, чтобы это было полезно, эффективно, и не привело к куче проблем.
Для начала, давайте условно ранжируем ИИ-ассистентов по уровню автономности и автоматизации:
- Языковые модели (чатботы) - Они же LLM, они же все наши любимые GPT-сайты. Не выполняют конкретных собственных задач, но помогают нам с рутиной: написать письмо, сократить текст, составить таблицу. Автономия - минимальна.
- AI-workflow - некие ИИ-боты или ИИ-приложения. Работают по заданному сценарию как конвейер. Например, обрабатывают базы данных, суммаризируют поступающие письма, отвечают на отзывы. Автономия средняя, работают все еще в паре с человеком, который реагирует на полученную информацию и принимает решения.
- ИИ-агенты - системы, принимающие решения и выполняющие действия на основе получаемых данных. У них есть условия и цели, но нет сценариев. И они не просто предоставляют человеку результаты, а планируют и выполняют шаги. Максимальный уровень автономии.
Но не стоит сразу пугаться: если "ИИ-агент", то еще не обязательно "осмысленный робот из научной фантастики". Самые базовые агенты - это все еще программы, которые могут быть настроены на какой-то один спектр действий. Простой пример: фильтр для электронной почты. Он читает письма, и сам решает, какие - в спам, на какие - быстро ответить, какие - пометить "важно" и переслать человеку.
И что мы можем с этим придумать?
Начитавшись про мощности современных ИИ-агентов, компании уже бегут к нам с идеями о том, как им можно круто обновить функционал. Давайте разберем три примера реальных запросов из опыта:
Пример 1
Мы устраиваем людям нетворкинг. Хотим, чтобы люди заполняли анкеты, а ИИ-агент сам их метчил с единомышленниками и создавал группы по интересам.
Пример 2
Мы продаем стройматериалы. Хотим, чтобы по фото комнат ИИ подсчитывал, сколько нужно краски, отделки, плитки и составлял заказ.
Пример 3
Мы работаем с клиентами. У нас большая база знаний и много разных правил. Хотим, чтобы вместо 300-страничного FAQ был ИИ-бот, который бы отвечал на вопросы клиентов.
Замечаете что-то не то?
На самом деле, первые два варианта, хотя и вполне реализуемы с учетом сегодняшних технологий, могут быть очень опасны для бизнесов.
И вот, почему
1. ИИ не стабилен
В задачах, где у нейросети нет ограничения по вводным данным, и где дается полный простор для интерпретаций, она может и будет ошибаться.
На первом примере:
Предположим, один человек в анкете написал, что "работает в отделе кадров". А другой, что "по профессии HR". Если не задать ИИ нужных условий, он отнесет этих двух кандидатов в разные группы, так и не догадавшись, что у них схожая сфера деятельности.
Но это еще меньшее из зол. А что, если (на втором примере)
На фотографии комнаты нестандартного размера окно. ИИ подумал, что помещение больше, чем оно есть и оформил заказ на огромную сумму. Покупатель в шоке.
И так много с чем, потому что нет еще таких моделей, которые бы могли обеспечить абсолютно безошибочную работу и безупречную логику в принятии решений. А Anthropic даже доказали, что в особых ситуациях ИИ-агенты могут представлять угрозу.
А самое страшное: виноваты будете вы.
Согласно кодексу этики и нескольким уже прошедшим в россии судебным делам, ответственность за подобные ошибки будет лежать на компании или ее сотруднике, который настроил ИИ-систему. Думаем, многие согласятся, что такой неконтролируемый риск проблем брать на себя не очень хочется.
2. Это дорого
Первое, что у нас спрашивают заказчики, когда приходят с идеей интеграции ИИ-системы: сколько она потом будет стоить в месяц?
На самом деле, один запрос (к API, к ИИ-агентской системе) может стоить компании от 2 до 200 рублей. Если таких в месяц, скажем, тысяча, стоимость всей системы подсчитать несложно. И да, с одной стороны, в сравнении с целым отделом сотрдуников, 200 тысяч может показаться разумной ценой, но нужно помнить про два момента.
Во-первых, если какую-то часть из порученных ИИ действий можно делать простой программой, то программа будет делать это бесплатно. Мы, например, получали запрос: А можно сделать сразу так, чтобы нейросеть конвертировала JSON в Excel? И мы отвечали: Можно, но у вас в каждой строчке по 500 токенов. Если написать программу, она денег не возьмет. А ИИ только ради ИИ внедрять невыгодно.
Во-вторых:
3. ИИ нельзя оставлять без присмотра
Чтобы не допускать ошибок, вызванных самовольством ИИ, как из пункта 1, компании все еще нужен человек, который будет контролировать все ее решения, проверять на точность и решать сложные, нестандартные ситуации. И такой человек должен быть профессионалом в деле, способным выполнять задачи с тем же уровнем качества (ИИ же его заменяет, значит он должен уметь заменять ИИ).
И одно дело, если в отделе было 10 человек, а с ИИ-агентом осталось 3. Но совсем другое, если вы - небольшая фирма, стартап или малый бизнес, и вы решили вместо единственного копирайтера поручить все задачи нейросетям. Это - снова лишние риски и не всегда даже существенная экономия денег.
А как надо?
Чтобы избежать всех проблем, можно придерживаться простых принципов:
Используем сильные стороны ИИ
Нейросети - это машины. Лучше всего у них получается обрабатывать данные: анализировать и адаптировать разные форматы, переводить тексты, конвертировать файлы, быстро читать, сокращать, выделять главное из больших текстов.
Как и с человеком: вы же не наймете инженера печь торты? Тут то же самое, применяем те строчки в "резюме" нейросети, в которых вы и она больше всего уверены.
Не доверяем и проверяем
Если какая-то задача является жизненно важной для вашей компании или команды - лучше не стоит полагаться на нейросети для ее выполнения.
Думайте по самому плохому сценарию: если случится ошибка и вам будет грозить ответственность - потянете ли вы эти обязательства? Если речь о неверно понятом вопросе - скорее всего, все поправимо. А вот, если клиенту будет некачественно предоставлена услуга - это большой судебный риск. В таком случае, даже с экономией на сотрудниках можно остаться в минусе. Если у вас так - ИИ не вариант. Нужно подобрать человека, который будет готов к ответственности и способен, как минимум, смотреть на ситуации с более полной картиной.
Не заменяем людей, а помогаем им
Как вы могли понять, не всегда оправданно внедрять ИИ-агента в процессы, а ИИ только ради ИИ (и красивых рекламных заявлений), на самом деле, мало кому нужен.
И не забывайте про человеческий фактор: в последние годы «human touch» снова в цене — потребители и клиенты по-прежнему предпочитают живое общение в сложных и эмоционально насыщенных сценариях, а бренды, которые выдвигают ИИ на первый план оказываются под шквалом хейта.
Лучше прагматично адаптировать тренд внутри компании — не заменять людей, а прокачивать их: лидеры рынка всё активнее инвестируют в апскиллинг сотрудников по AI и встраивают модели как ассистентов или в рабочие конвейеры (workflow). Да, не так автономно, как агенты, но зато надёжнее, удобнее и безопаснее с точки зрения бизнеса и рисков.
ForgeHive в этом ключе делает простую вещь: мы помогаем компаниям встраивать ИИ не «ради ИИ», а как удобный инструмент.
Если у вас есть идея - напишите нам. Обсудим все риски и придумаем лучшие варианты.