Многие проекты в области ИИ терпят неудачу, потому что руководители воспринимают внедрение как покупку технологий, а не как проблему изменения поведения.
Люди сопротивляются инструментам, нарушающим рутину, чрезмерно реагируют на видимые ошибки ИИ и предпочитают привычное человеческое суждение.
В результате даже хорошие системы, не получают желаемого.
Лидеры могут решить эту проблему, применяя «Поведенческий человек ориентированный ИИ» на протяжении всего цикла внедрения ИИ.
В терминах компании должны совместно разрабатывать с разнообразными пользователями, создавать целенаправленное трение там, где это улучшает проверку, требовать бета-тестов с результатами подгрупп и поведенческими данными.
При внедрении они должны представить ИИ как аугментатора, раскрывать ограничения и меры защиты, использовать объяснимость для усиления восприятия контроля. На этапе управления им необходимо обучать руководство, использовать модели, отслеживать ориентированные на людей KPI (доверие, справедливость, усилия, добровольное использование), проводить дисциплинированных пилотов и корректировать или быстро их уничтожать. Результатом такого подхода становится повышение доверия, более быстрое внедрение и реальная отдача.
Почему так много проектов по искусственному интеллекту проваливаются? После многих лет слушаний о том, как ИИ может революционизировать бизнес, недавние исследования показали, что компании по-прежнему постоянно испытывают трудности с целью извлечь выгоду из своих инвестиций в ИИ. Инициатива NANDA от MIT, например, оценила, что 95% инициатив в области ИИ не достигают желаемой ценности. Глобальный опрос Boston Consulting Group показал, что только 26% компаний получили ощутимую отдачу от ИИ. Теперь лидеры задаются вопросом: что происходит не так?
Одна из главных причин этого — лидеры недостаточно задумываются о том, как люди будут использовать инструменты ИИ. Вместо этого многие по умолчанию придерживаются техно солюционизм — убеждения, что только технологические улучшения приведут к решению организационных проблем. Когда лидеры принимают техно солюционизм, они в итоге воспринимают внедрение ИИ исключительно как инженерное упражнение. Например, сосредоточиться в первую очередь на приобретении самых современных и передовых систем ИИ и верить, что такие вопросы, как сопротивление и недоверие сотрудников, со временем решатся сами.
Проблема в том, что интеграция новых инструментов ИИ по сути является поведенческой задачей. Правильное выполнение, это вопрос изменения того, как люди взаимодействуют с ИИ и воспринимают его в своих рабочих практиках и рутинах. Когда внедрение игнорирует базовые человеческие потребности и предвзятости, это означает, что сотрудники будут сопротивляться или не доверять новым инструментам ИИ.
Чтобы согласовать ИИ с тем, как люди действительно думают и работают, лидерам нужен подход, применяющий поведенческую науку и принципы управления изменениями. В нашем недавнем исследовании мы предлагаем именно это — Поведенческий человекоцентричный ИИ. Суть в том, что успех внедрения ИИ зависит не столько от внедрения самых сложных и передовых технологий, сколько от того, что решения руководства формируются поведенческими инсайтами о недостатках, предубеждениях и привычках людей на протяжении всего цикла изменений — включая этапы проектирования, внедрения и управления. Ниже мы предлагаем рекомендации по применению этой идеи для создания реальной бизнес-ценности с помощью ИИ.
ИИ терпит неудачу, когда игнорирует поведение человека на протяжении всего цикла управления изменениями
Многие лидеры предполагают, что хорошо спроектированные системы ИИ будут однозначно приняты. Однако даже если ваше решение на базе ИИ идеально отвечает потребностям бизнеса и улучшает трудовую жизнь сотрудников, десятилетия поведенческих исследований показывают, что люди далеки от рациональности. Например, при переменах люди боятся потерь больше, чем ценят эквивалентную выгоду, и цепляются за привычные способы работы, даже если они неэффективны. Это было продемонстрировано в клинических инструментах поддержки принятия решений в больницах. Несмотря на то, что они встроены в электронные медицинские записи и имели очевидные преимущества, врачи часто недостаточно использовали их или обходили их, когда оповещения нарушали рабочий график или увеличивали время проверки. Таким образом, воспринимаемый рабочий процесс и «потери» времени имели большее значение, чем возможности для улучшения ухода за пациентами.
Исследования выявляют две предвзятости, которые заставляют людей отказываться от использования ИИ. Во-первых, люди часто отказываются от алгоритма после того, как видят, что он совершает ошибку, даже если он со временем превосходит людей. Во-вторых, они склонны переоценивать, насколько хорошо понимают человеческое принятие решений, из-за чего отвергают инструменты ИИ в сравнении. В этом исследовании пациенты полагали, что лучше понимают рассуждения человеческого врача, чем ИИ, что заставляло их неохотно следовать советам ИИ, хотя медицинский ИИ часто превосходит человеческих специалистов.
Эти предубеждения не обязательно являются недостатками, они являются фундаментальными для того, как люди думают об изменениях и обрабатывают их.
Однако компании часто не учитывают такие особенности человеческой обработки при внедрении ИИ. Рассмотрим, например, ответы на 23-й ежегодный опрос Foundry «состояние CIO»: хотя 71% CIO — роли, ответственной за технологическую инфраструктуру, безопасность данных и технологические инициативы — считали себя ответственными за ускорение инноваций и приложений, основанных на ИИ, менее трети (32%) считали, что они также ответственны за более широкие организационные трансформации.
В редких случаях, когда компании рассматривают поведенческие перспективы для программ изменений ИИ, они часто сосредотачиваются на стимулировании внедрения инструмента. Сотрудников могут опросить о предпочтениях и потребностях в приложении на базе ИИ только после того, как система уже создана или куплена — и внедрение превратится в маркетинговый процесс, а не управленческий. Тем не менее, игнорирование того, как был разработан инструмент ИИ или как им будет управляться после внедрения, всё равно приводит к провалу этих усилий.
Применение поведенческого подхода на трёх этапах внедрения ИИ
Для успешного внедрения ИИ компаниям необходимо применять поведенческий подход на этапах проектирования, внедрения и текущего управления.
Учитывая поведенческие инсайты на этапе проектирования, можно создать более эффективные и полезные продукты, которые приносят больше пользы пользователям и, следовательно, будут использоваться чаще. К сожалению, большинство инструментов искусственного интеллекта устроены иначе. Скорее, они часто разрабатываются с учётом технических стандартов, которые не обязательно соответствуют тому, как люди будут использовать инструмент.
Рассмотрите возможность создания инструмента для транскрипции на базе ИИ. Было бы разумно, что дизайнеры предполагают, что интерфейс всегда самый плавный. Но поведенческие исследования показывают, что намеренное добавление небольшого трения, например отображение слов в более трудночитаемом шрифте на самом деле помогает людям внимательнее изучать текст, что помогает находить и исправлять ошибки.
Распознавание и применение таких инсайтов в рабочих процессах дизайнеров может помочь им создавать системы, соответствующие тому, как люди действительно думают и работают.
Чтобы охватить эту поведенческую сложность, руководители должны поощрять дизайнеров приглашать разнообразную группу конечных пользователей для пилотирования и бета-тестирования новых инструментов, чтобы получить их мнение о функциях и доработать в соответствии с их реальными потребностями. Такой совместный подход не только оттачивает ИИ под реальные потребности пользователей, но и открывает более интуитивные решения ИИ и обеспечивает конечным пользователям более сильное чувство причастности. Когда конечные пользователи участвуют в создании решения, они гораздо больше заинтересованы в том, чтобы использовать его эффективно и эффективно, а значит, создать основу для успешного внедрения проекта ИИ. Конечно, результаты этих тестов также необходимо интерпретировать и применять, и руководство как таковое должно гарантировать, что команды включают экспертов по поведению, чтобы совместно с дизайнерами переводили полученные поведенческие инсайты в сам процесс проектирования.
Разработчикам также нужно думать о том, как они работают. Дизайнеры уязвимы к «предвзятости изобретателя» или склонности быть чрезмерно оптимистичными относительно собственных систем и игнорировать непредвиденные последствия. Оптимизация бета-тестирования с пользователями может помочь в этом. Исследования 2020 года показали, что автоматизированные системы распознавания речи от крупных производителей — Amazon, Apple, Google, IBM и Microsoft — допускали примерно вдвое больше ошибок для чернокожих спикеров, чем для белых. Этот разрыв можно было бы избежать, если бы поставщики использовали стратегии бета-тестирования, включающие более лингвистически разнообразных пользователей и сообщающие результаты подгрупп (например, уровень ошибок в словах по диалекту и акценту) своим командам разработчиков продукта до запуска.
Преодолейте доверие, усилия и воспринимаемый контроль.
Даже хорошо продуманные инструменты ИИ сталкиваются с сопротивлением, если внедрение не управляется поведенчески. Сотрудники могут зацикливаться на ярких, но редких ошибках ИИ (эвристика доступности: склонность людей оценивать вероятность или частоту события по тому, насколько легко они могут вспомнить примеры) или бояться потерять автономию (избегание потерь). Чтобы противостоять этому, организации должны:
- Оформить ИИ как аугментатора, а не как замену. Выделите, как ИИ справляется с повторяющимися и взаимодополняющими задачами, освобождая сотрудников для работы с высокой ценностью, которая может привести к инновациям и сделать организацию более конкурентоспособной.
- Сделайте ошибки ИИ близкими. Покажите, что ИИ ошибается так же, как и мы, и позиционируйте его как партнёра по обучению, а не как безошибочного авторитета, который полностью контролирует рабочий процесс.
- Обеспечьте прозрачность. Используйте объяснимый ИИ, чтобы снизить тревожность. Например, дайте пользователю обратную связь о том, как ИИ пришёл к своему решению или прогнозу. Это прояснит, как принимаются решения, каким образом и почему организация их поддерживает.
Возьмём, к примеру, здравоохранение. Исследования показали, что, когда поставщики заранее раскрывали ограничения, возможные предвзятости и действующие меры защиты, вместо того чтобы предоставлять минимальную, пассивную информацию, доверие пациентов и их готовность воспользоваться сервисом увеличивались. Посыл ясен: честность в отношении несовершенств сделала людей более готовыми к внедрению ИИ.
Руководство: Избегайте чрезмерной уверенности и эскалации обязательств.
Сами лидеры не защищены от предвзятости. Многие недооценивают поведенческую сложность внедрения ИИ и предполагают, что сотрудники «разберутся» и поэтому чувствуют себя уверенно, чтобы пропустить пилотное тестирование. Другие удваивают усилия на неудачных проектах (эскалация обязательств), вкладывая огромные ресурсы в инструменты, которые сотрудники отвергают. Эти поведенческие предубеждения могут быть очень дорогостоящими, если лидеры продолжают вкладывать капитал, в неудачные инициативы ИИ.
Вместо этого лидеры должны:
- Признайте их собственные предубеждения. Многие руководители без опыта в области ИИ часто переоценивают свои способности управлять такими проектами. Прежде всего, они должны инвестировать в самообразование и придерживаться философии непрерывного обучения. Далее, они должны окружить себя как надёжными экспертами внутри организации, которые понимают важность, возможности и актуальность ИИ для решения конкретных проблем и вызовов компании, если у вас их нет, соберите необходимые бюджеты на их найм, так и внешними экспертами, которые смогут применить консультационные навыки, необходимые для согласования использования ИИ с рабочими процессами и привычками человеческой рабочей силы. Это подготовит их к тому, чтобы стать лидерами, хорошо разбирающимися в ИИ, которые понимают преимущества и недостатки использования ИИ для решения конкретных бизнес- и рабочих задач.
- Обучать себя изменению поведения. Руководителям организаций нужно научиться выявлять и справляться с сопротивлением, прозрачно общаться, регулярно приглашать обратную связь и демонстрировать пример внедрения ИИ, следуя словам (например, инициировать использование LLM, показывая, как вы их используете, чтобы установить норму, что использование ИИ допустимо). Проактивный и объективный подход поможет диагностировать проблемы до того, как они выйдут из-под контроля и сорвут усилия по переменам. Короче говоря, сделайте «лидерство в переменах» ключевой компетенцией вашей инициативы по ИИ.
- Измеряйте то, что важно. В неизведанных территориях, таких как ИИ, нельзя полагаться только на интуицию или опыт в индустрии. Устанавливайте чёткие показатели успеха, не только техническую эффективность, но и доверие сотрудников, принятие и воспринимаемую справедливость. Например, возьмём «проверки температуры» мнения сотрудников, не только по тому, используют ли они ИИ, но и по тому, насколько справедливо он считает, насколько они считают его другими сотрудниками организации и даже насколько им нравится ИИ. Все эти вопросы, измеряемые через интервью или опросы, могут быть мощными индикаторами успеха или неудачи. Внимательно следите за этими факторами, чтобы понять, действительно ли изменение работает.
- Оставайтесь гибкими и адаптивными. Если инициатива ИИ не приносит результатов, будьте готовы скорректировать курс или прекратить проект. Не продолжайте инвестировать только потому, что уже начали. Цель, учиться и совершенствоваться, а не защищать свой любимый проект. Лидеры, которые подходят к ИИ с мышлением «тестируй и учись», быстрее корректируют курс и избегают крупных ошибок.
Потенциал ИИ слишком велик, чтобы его могли сбить с пути из-за возможных человеческих ошибок. Рассматривая внедрение ИИ как поведенческую проблему, а не только техническую, организации могут преодолеть нынешний высокий уровень отказов. Проектируйте с учётом реальных человеческих предубеждений, принимайте с доверием и прозрачностью, управляйте с скромностью и эмпатией. Результат? ИИ, который работает с людьми, а не против них.