Большинство систем искусственного интеллекта стремятся к 95% точности результатов. Но как организациям, решившим прибегнуть к решению некоторых вопросов с помощью ИИ, обезопасить себя от предвзятости системы, влияющую на точность результатов?
Предвзятость искусственного интеллекта может возникнуть из-за ошибочных алгоритмов, отсутствия полных данных, на которые опираются алгоритмы или из-за автоматической программы обучения, которая строится на определенных предположениях.
Рассмотрим один из примеров предвзятости ИИ
Для компании Amazon была разработана система, основанная на искусственном интеллекте, для подбора персонала. Цель системы заключалась в том, чтобы сэкономить время сотрудников на просмотр резюме. Но, год спустя Amazon осознал, что внедренная система предвзято относится к кандидатам женского пола. Эта ошибка возникла из-за того, что Amazon для алгоритма подбора использовал данные за последние десять лет найма, а в то время в организации работало 60% мужчин.
Как избежать подобных ошибок?
«Программисты и разработчики могут использовать технологию для обнаружения или устранения предвзятости ИИ до его внедрения», - сказала Рейчел Бреннан, старший директор по маркетингу продуктов Bizagi (компания занимается разработкой интеллектуальных решений для автоматизации процессов).
Один из способов, который поможет решить данную проблему, это дважды проверять данные поступающие в ИИ.
«Нам нужно помнить, что предвзятость часто бывает непреднамеренной, в основном потому, что программисты и разработчики не обращают на это внимание», - сказал Бреннан. «Специалист, занимающийся данными, смотрит на данные как на данные, поэтому не всегда сможет рассмотреть эту информацию, например, с точки зрения бизнеса. Существует так много нюансов и факторов, которые могут повлиять на результаты, и если мы смотрим на результат только с точки зрения данных, предвзятые данные могут проскользнуть».
Точка зрения Бреннана хорошо понятна. ИТ-специалисты и специалисты по обработке данных не являются экспертами в оценке данных на предмет предвзятости. В большинстве случаев, только специалисты конкретного бизнеса лучше всех могут указать на какие данные стоит пристально обратить внимание для исключения ошибок. Существуют также ИТ-алгоритмы, которые можно использовать для поиска распространенных предвзятостей, таких как раса, пол, религия, социально-экономический статус и т.д.
«Эти алгоритмы помогают выявлять потенциальную предвзятость программистам и разработчикам», - сказал Бреннан. «Это, конечно, замедляет процесс, поэтому многие специалисты пропускают этот шаг, но это вопрос этики, и он имеет решающее значение, тогда конечный результат ИИ будет скорее правильным и полезным. Например, если ИИ собирается определить право на получение ипотеки, то цена ошибки может быть слишком высока и специалистам отвечающим за внесение данных этого нельзя допустить, они должны убедиться дважды и перепроверить информацию, которую изучает искусственный интеллект. Но, если ИИ создается для развлекательной викторины, чтобы определить, какую породу собак вы бы предпочли, то такая тщательная проверка вводных данных необязательна».
Предварительная очистка данных важна для качества решений ИИ. Это включает в себя первоначальную очистку данных и скрупулезную очистку полученных данных, после обучения искусственного интеллекта. Во всех процессах должны быть задействованы эксперты-пользователи конечного бизнеса.
«В реальном мире мы не ожидаем, что ИИ в ближайшее время станет полностью непредвзятым», - сказал Бреннан. «Но ИИ может быть таким же хорошим, как и данные, и люди, которые его создают».
Для компаний, стремящихся к непредвзятым результатам, это означает делать все возможное для проверки данных и алгоритмов, а также соглашаться с более длительными сроками выполнения проектов, чтобы получить правильные результаты.