ИИ - слоп - слово, которое не скоро пополнит официальные словари, но уже вошло в обиход бизнеса - означает низкокачественный контент, сгенерированный нейросетями.
➡ Когда «слопят» работники
Тема «ИИ-слопа» часто подается как технологическая проблема, но это вопрос управления.
Само по себе использование ИИ
не ведет к снижению качества работы. К негативному эффекту приводит поведенческий фактор:
В погоне за скоростью и иллюзией эффективности сотрудники начинают пренебрегать проверкой результата и перекладывают принятие решений на модель.
Если еще не прямо подталкивают ее к нарушениям: когда, например, просят генерировать что-то «в стиле» авторов, чьи права охраняются.
Все это сказывается на качестве продукта.
Ключевой риск для бизнеса — потеря контроля. Да и репутационные последствия не стоит сбрасывать со счетов (да, да, это каламбур).
Все же уже успели обсудить кейс Sullivan & Cromwell (Уолл-стрит, немного-немало), чьи юристы извинились перед судьей за то, что подали документ, содержавший ошибки из-за галлюцинаций ИИ? Клиенты S&C, надо думать, тоже свои выводы сделали.
В наихудшем сценарии ИИ-слоп может привести не только к коммерческим, но и к регуляторным последствиям — например, если такое использование станет причиной нарушения условий лицензий или сертификатов.
➡ Какие меры защиты применяются на практике
⏺ Полная блокировка внешних моделей и доступ только к ИИ внутреннего контура компании, соответствующего требованиям безопасности.
Но будем честны, такой подход реалистичен для крупных структур и не работает в бизнесах, где сотрудники могут решать задачи на личных устройствах, неважно запрещено это или нет (юрфирмы, продакшены, агентства).
⏺ Установление правил работы с ИИ в трудовых договорах и должностных инструкциях.
Самая действенная мера - дает основание как минимум для дисциплинарных мер, а при систематических нарушениях — и для увольнения.
⏺ Регулирование использования ИИ в служебных заданиях (особенно при создании РИД).
Обучение сотрудников: как работать с промптами, в чем риски, как работают корпоративные правила. Заодно и повод ненавязчиво напомнить, что разглашение конфиденциальной информации основание для расторжения трудового договора по ст.81 ТК.
➡ Как контролировать сотрудников
На 100% проконтролировать использование ИИ невозможно.
Реалистичный подход — это многоуровневый контроль качества, когда результат проверяется не одним, а несколькими сотрудниками.
Отдельная задача (на случай если нужно ею задаваться) — как выявлять ИИ-генерации.
Некоторые компании вводят внутренние критерии и проверяют результаты на их наличие.
Речь не о «магическом детекторе», а о типичных признаках. Например:
— избыточно структурированный текст (одинаковые блоки, списки «по шаблону») — чрезмерно сглаженный, обезличенный язык без фактуры и конкретики — логические «провалы» или фактические неточности.
Такие признаки используется как триггер для проверки. Однако открывать ли такую отчаянную охоту на генерации - дело вкуса.
➡ Работают ли политики?
Создание политик по ИИ - хороший инструмент, но в отношениях с работниками - не главный. Политики будут работать только в обвязке с трудовыми соглашениями и должностными инструкциями.
В целом, ИИ может быть вовсе даже не словом, а отличным подспорьем в процессах и бизнесе, при условии воспитания здоровой осмотрительности коллектива и хотя базовом ИИ-комплаенсе.