У ИИ есть огромный потенциал для поддержки все большего количества областей принятия решений, и поддержка со стороны лиц, принимающих решения, более вероятна, когда пользователи видят, что он работает хорошо. Вот одно из решений, к которому руководители обращаются за результатами.
В бизнесе наука о данных и искусственный интеллект обычно ориентированы на высокую эффективность и рост. Доверие пользователей часто упускается из виду. Это может быстро превратиться в серьезную проблему, особенно когда ИИ внедряется для поддержки стратегического выбора.
Команды по науке о данных и искусственному интеллекту постоянно уделяют внимание методологии и точности. Это очень важно, так как алгоритмы обеспечивают ценную информацию, аналитику и поддерживают повышенную автоматизацию.
Тем не менее, большинство организаций сталкиваются с растущими проблемами, связанными с доверием пользователей к алгоритмам. С одной стороны, качество автоматизированного анализа не совсем понятно, а с другой, существует очевидная угроза того, что машины сделают излишним собственный опыт людей. Это стало особой трудностью в ключевой области ИИ: поддержке принятия решений.
«В тот момент, когда модели начинают определять стратегические решения, требования меняются», — объясняет Рене Трауэ, старший специалист по данным в GfK. «Пользователи должны иметь возможность полностью доверять приложениям. Они должны стать незаменимыми при принятии важных решений. Если нет, пользователи могут в конечном итоге уйти».
Укрепление доверия
Чтобы решить эту проблему, приложения, использующие алгоритмы ИИ, должны быть разработаны таким образом, чтобы обеспечить уверенность в результатах. «Представьте, что система поддержки принятия решений похожа на автомобиль с помощником по вождению. Этот автомобиль может автоматически затормозить, если вы подойдете слишком близко или скорректировать рулевое управление, если вы сместитесь с полосы движения. Однако многие люди не были бы рады сразу довериться автоматизации. Чтобы доверить управление автопилоту: сначала им нужно обрести уверенность в качестве такой системы», — объясняет Трауэ.
Автопроизводители действовали, добавляя предупреждения, когда их автомобили собираются самостоятельно затормозить, или гарантируя, что водители сохранят полный контроль с помощью рулевого колеса, когда вносятся какие-либо исправления.
«Тогда водители могут все больше доверять машине в принятии правильных решений. Они могут перестать инстинктивно «бороться с этим» и позволить автоматике работать», — говорит Трауэ. «Та же идея в бизнесе. Поддержка принятия решений должна применяться очень прозрачно, позволяя пользователю сначала сохранять ключевой уровень контроля, в то время как система неизменно доказывает свою эффективность и полезность». Существует дополнительное ключевое требование: стратеги компании ожидают получить от системы четкие доказательства, подтверждающие любые рекомендуемые действия.
Соблюдение ограничений
Собственная система поддержки принятия решений GfK, gfknewron, информирует о решениях в контексте, включая прогнозирование продаж, установление цен, принятие решений о брендах и тестирование сценариев, и это лишь некоторые из них. «Мы по-прежнему остро осознаем важность того, чтобы наши решения были правильными, поэтому мы полностью сосредоточены на том, что работает и каковы ограничения», — объясняет Трауэ. Это включает в себя обеспечение того, чтобы любые аналитические выводы не только основывались на обширных данных, но и проходили строгий процесс обеспечения качества. Система GfK проверяет все результаты и помечает или даже подавляет те, которые имеют возможные проблемы с качеством, позволяя экспертам GfK проверять и принимать или исправлять их по мере необходимости. Это критически важная область инвестиций, позволяющая избежать любого риска рассылки потенциально вводящих в заблуждение указаний.
«gfknewron разработан таким образом, чтобы люди могли понять обоснование рекомендаций, которые он им дает. Мы постоянно оцениваем алгоритмы, привлекая не только наших специалистов по данным, но и — и все чаще — наших специалистов-аналитиков MLOps, которые постоянно следят за достоверностью и точностью наших моделей», — говорит он. «Мы хотим помочь лицам, принимающим решения, доверять абсолютной надежности gfknewron в ускорении правильного выбора и высвобождении их времени». Кроме того, компания поощряет радикально прозрачную обратную связь с пользователями.
Устранение сложности
Подобно тому, как один негативный опыт может заставить людей вообще отказаться от системы поддержки принятия решений на основе ИИ, положительный опыт, как правило, приводит к повышению доверия. У ИИ есть огромный потенциал для поддержки все большего количества областей принятия решений, когда пользователи видят, что он работает хорошо. Трауэ заключает: «Мир становится таким сложным. Технологические и потребительские бренды могут одновременно управлять несколькими продуктами, каналами распространения, рекламными кампаниями и маркетинговыми каналами. Когда у лиц, принимающих решения, есть заслуживающий доверия ИИ, чтобы преодолеть эту сложность и данные, они могут сосредоточить свое время на определении наилучшего варианта из рекомендаций, чтобы получить конкурентное преимущество на рынке».
Источник: журнал CIO Online
__________________________
При возникновении вопросов можете написать на почту ru@gfk.com
Telegram канал GfK Россия