Американские полицейские все чаще используют искусственный интеллект для облегчения своей работы. Теперь ИИ на базе GPT-4 помогает им избавиться от рутинной задачи - заполнения бумаг.
Компания Axon, известная производством электрошокеров Taser, представила новый инструмент под названием Draft One. Он может транскрибировать аудиозаписи с камер, установленных на форме полицейских, и автоматически превращать их в отчеты. Затем офицеры могут проверить документ на точность.
Axon утверждает, что эта технология позволит сэкономить полицейским массу времени. Однако эксперты обеспокоены потенциальными рисками.
Искажение фактов и расовые предрассудки
Главная проблема - надежность ИИ. Такие модели могут «галлюцинировать» (выдумывать факты) и подвержены расовым предубеждениям, как явным, так и скрытым.
Как говорит Дейв Маас из Electronic Frontier Foundation:
«Это кошмар! Полицейские, не являющиеся специалистами по искусственному интеллекту, будут использовать эти системы для создания документов, которые могут повлиять на судьбы миллионов людей, вовлеченных в систему уголовного правосудия. Что может пойти не так?»
Ограничения использования
Axon признает наличие опасности. Компания рекомендует не применять ИИ для составления отчетов о серьезных инцидентах, таких как стрельба с участием полиции, где может быть упущена важная информация.
Проверка на предвзятость
Axon заверяет, что их ИИ настроено на факты, полученные с камер, чтобы противодействовать предвзятости. Компания провела тестирование, меняя различные расы подозреваемого в существующих записях с камер. По словам Axon, сотни образцов не показали «статистически значимых различий» в сгенерированных отчетах.
Будущее за технологией, но есть нюансы
В демонстрационной версии Axon загрузила видеозапись с камеры, на которой офицер разговаривает с очевидцем происшествия. Программа затем создала краткий отчет из нескольких абзацев, описывающий ситуацию. Однако ИИ также отметило разделы, где офицеру нужно добавить больше контекста, например, рост упомянутого очевидца.
Эксперты считают, что внедрение такой технологии требует четких правил, процедур и контроля со стороны руководства полицейских участков. Использование ИИ может сэкономить время полицейских, позволив им больше времени проводить на службе.
Скандальная репутация Axon
Несмотря на новинку, Axon остается неоднозначной компанией. Ранее сообщалось о давлении на сотрудников, которых заставляли проходить испытания электрошокерами и делать татуировки компании.
Сам генеральный директор Axon Рик Смит оказался замешан в выдуманной истории о создании компании, якобы вдохновленной убийством его близких друзей.
Однако финансовые показатели Axon остаются впечатляющими. Акции компании достигли рекордной отметки, а годовой доход составил 1,5 миллиарда долларов.
Кроме того, ряд городов подал иск на Axon, обвиняя компанию в нечестной конкуренции на рынке камер. Axon отвергает эти обвинения.