Новое исследование ESMT Berlin показывает, что внедрения ИИ в рабочий процесс увеличивает точность принимаемых человеком решений, однако часто он вынуждает человека больше думать при принятии решения.
Эти выводы получены в результате исследования Тамера Боячи и Франсиса де Верикоура, профессоров управленческих наук в ESMT в Берлине, а также Канера Каньякмаза, ранее занимавшего постдокторскую степень в ESMT, а теперь доцента по управлению операциями в Университете Озьегина. Исследователи хотели изучить, как машинные прогнозы могут повлиять на процесс принятия решений и результаты человека, принимающего решения. Их статья была опубликована в Management Science.
Интересно, что использование машин больше всего увеличивает рабочую нагрузку человека, когда профессионал когнитивно ограничен, например, испытывает нехватку времени или работает в режиме многозадачности. Однако ситуации, когда лица, принимающие решения, испытывают высокую нагрузку – это именно те, когда внедрение искусственного интеллекта для облегчения части этой нагрузки представляется наиболее заманчивым. Исследование предполагает, что применение искусственного интеллекта, в данном случае, для ускорения процесса, может привести к обратным результатам и фактически увеличить, а не уменьшить когнитивные усилия человека.
Исследователи также обнаружили, что, хотя машинный ввод всегда повышает общую точность принимаемых человеком решений, он также может увеличить вероятность определенных типов ошибок, таких как ложные срабатывания. Для исследования использовалась модель машинного обучения для выявления различий в точности, предрасположенности и уровнях когнитивных усилий, прилагаемых людьми, сравнивая решения, принимаемые исключительно человеком, с решениями, принимаемыми с помощью машин.
«Быстрое внедрение технологий искусственного интеллекта во многих организациях в последнее время вызвало опасения, что искусственный интеллект может в конечном итоге заменить людей в определенных задачах», — говорит профессор де Верикур. «Однако, когда машины используются вместе с человеческим разумом, они могут значительно усилить сильные стороны людей», — говорит он.
Исследователи говорят, что их результаты ясно демонстрируют ценность сотрудничества между людьми и машинами для профессионалов. Но люди также должны знать, что, хотя машины могут предоставлять невероятно точную информацию, часто от людей все еще требуется когнитивное усилие, чтобы оценить свою собственную информацию и сравнить предписание машины со своими собственными выводами, прежде чем принимать решение. Исследователи говорят, что уровень необходимых когнитивных усилий возрастает, когда люди вынуждены принять решение.
На примере врача и пациента выводы показывают, что использование машин повысит общую точность диагностики и уменьшит количество ошибочно диагностированных пациентов. Однако, если заболеваемость низка, а время ограничено, внедрение машины, помогающей врачам в постановке диагноза, приведет к большему количеству пациентов с неправильным диагнозом, и для диагностики потребуется больше когнитивных усилий человека — из-за дополнительных когнитивных усилий, необходимых для устранения неоднозначности, которую может вызвать внедрение машин.
Ученые говорят, что их результаты дают надежду, а также предостерегают тех, кто планирует внедрять машины в рабочий процесс. С положительной стороны, средняя точность улучшается, и когда машинный ввод имеет тенденцию подтверждать довольно ожидаемое, все частоты ошибок уменьшаются, и человек становится более «эффективным», поскольку он уменьшает свои когнитивные усилия.
Однако включение машинных прогнозов в человеческие решения не всегда выгодно ни с точки зрения уменьшения количества ошибок, ни с точки зрения объема когнитивных усилий. На самом деле внедрение машины для улучшения процесса принятия решений может быть контрпродуктивным, поскольку это может увеличить количество определенных типов ошибок, а также время и когнитивные усилия, необходимые для принятия решения.
Полученные данные подчеркивают решающее влияние машинных прогнозов на суждения и решения человека. Эти результаты дают представление о том, когда и как следует учитывать машинный ввод, и, следовательно, о структуре взаимодействия человека и машины.