Microsoft подтвердила, что запрещает полицейским департаментам США использовать генеративный искусственный интеллект для распознавания лиц через Azure OpenAI Service. Новый пункт распространяется на «правоохранительные органы во всем мире».
В условия предоставления услуг Azure OpenAI Service была добавлена формулировка, более четко запрещающая использование интеграций с Azure OpenAI Service «полицейскими департаментами или для них» для распознавания лиц в США, включая интеграции с текущими — и, возможно, будущими — моделями анализа изображений OpenAI.
Отдельный новый пункт распространяется на «любые правоохранительные органы во всем мире» и прямо запрещает использование «технологии распознавания лиц в реальном времени» на мобильных камерах и видеорегистраторах, для попытки идентифицировать человека в условиях реальной жизни.
Изменения в политике произошли через неделю после того, как компания Axon, производитель технологий и оружия для военных и правоохранительных органов, анонсировалановый продукт, использующий генеративную текстовую модель OpenAI GPT-4 для обобщения аудиозаписей с нательных камер.
Критики указали на возможные подводные камни, такие как галлюцинации (даже лучшие генеративные модели ИИ сегодня придумывают факты) и расовые предубеждения, привнесенные из обучающих данных (учитывая, что цветных людей гораздо чаще задерживаетполиция).
Неясно, использовала ли Axon GPT-4 через Azure OpenAI Service, и если да, то была ли обновленная политика ответом на запуск продукта Axon. Ранее OpenAI ограничивала использование своих моделей для распознавания лиц через свои API. Новые условия оставляют Microsoft возможность для маневра.
Полный запрет на использование службы Azure OpenAI касается только американской, а не международной полиции. И он не распространяется на распознавание лиц с помощью стационарных камер в контролируемой среде, например в офисе (хотя условия запрещают любое использование распознавания лиц американской полицией). Это соответствует недавнему подходу Microsoft и близкого партнера OpenAI к контрактам с ИИ, связанным с правоохранительными органами и обороной.
В январе агентство Bloomberg сообщило, что OpenAI сотрудничает с Пентагоном по ряду проектов, в том числе в области кибербезопасности, что является отходом от ранее принятого стартапом запрета на предоставление своего ИИ военным. Кроме того, Microsoft предложила использовать инструмент генерации изображений OpenAI, DALL-E, для помощи Министерству обороны (DoD) в создании программного обеспечения для проведения военных операций.
Служба Azure OpenAI стала доступна в продукте Microsoft Azure Government в феврале, добавив дополнительные функции соответствия и управления, ориентированные на государственные учреждения, включая правоохранительные органы. В своем блоге Кэндис Линг (Candice Ling), вице-президент подразделения Microsoft Federal, ориентированного на правительственные структуры, пообещала, что Azure OpenAI Service будет «представлен для получения дополнительного разрешения» в Министерство обороны США для рабочих нагрузок, поддерживающих миссии Министерства обороны.
Microsoft сообщила, что в первоначальном изменении условий предоставления услуг была допущена ошибка и на самом деле запрет распространяется только на распознавание лиц в США. Он не является полным запретом на использование сервиса полицейскими департаментами.
Ранее сообщалось, что Microsoft совершила«целый ряд предотвратимых ошибок», которые в прошлом году позволили китайским хакерам взломать сеть технологического гиганта, а затем и учетные записи электронной почты высокопоставленных чиновников США, включая министра торговли.