Софтверный гигант перестанет продавать программы, определяющие эмоциональное состояние, пол и возраст
Корпорация Microsoft прекратит продажу программных инструментов для анализа лица на основе искусственного интеллекта, которые делают выводы об эмоциональном состоянии, поле, возрасте, настроении и других личных качествах субъекта после того, как было показано, что алгоритмы демонстрируют проблематичную предвзятость и неточности.
Существующие клиенты инструментов могут продолжать использовать их в течение года до истечения срока их действия. Компания также ограничивает использование других программ распознавания лиц, чтобы обеспечить соответствие технологий этическим принципам Microsoft в области искусственного интеллекта. Новым клиентам необходимо будет подать заявку на доступ к функциям распознавания лиц в Microsoft Azure Face API, Computer Vision и Video Indexer, в то время как у текущих клиентов есть год, чтобы подать заявку на постоянный доступ. Изменения были изложены с выпуском второго обновления стандарта Microsoft Responsible AI Standard в блогах , написанных главным ответственным сотрудником по искусственному интеллекту Наташей Крэмптон и менеджером по продуктам Azure AI Сарой Берд.
Изменения произошли через два года после того, как Microsoft и Amazon.com Inc., чье облачное подразделение конкурирует с Azure, приостановили продажу технологии распознавания лиц полицейским агентствам США после того, как исследование показало, что она плохо работает на людях с более темной кожей. Некоторые штаты приняли законы, регулирующие использование таких продуктов, в том числе Вашингтон, где расположены штаб-квартиры обеих технологических компаний. Несмотря на то, что некоторые из крупнейших технологических компаний отказываются от спорной технологии, более мелкие компании, такие как NEC Corp. и Clearview AI, поддерживают устойчивый бизнес, продавая инструменты распознавания лиц для использования способами, которые вызывают вопросы конфиденциальности и безопасности, в том числе для правоохранительных органов.
Microsoft не отказывается полностью от использования ИИ для чтения человеческих реакций. Компания продолжает добавлять другие функции, позволяющие угадывать чувства или эмоциональное состояние людей. Новая программа, разработанная для торговых представителей, о которой было объявлено на прошлой неделе, будет использовать ИИ для анализа настроений клиентов на телеконференциях Microsoft Teams, чтобы проанализировать, как потенциальные клиенты могут реагировать.
