Американские правоохранительные органы в последние 2-3 года часто прибегают к использованию ИИ-систем распознавания лиц, что нередко приводит к аресту невиновных. Журналисты из The Washington Post выяснили, что такие технологии зачастую применяются для упрощённого выявления подозреваемых без подтверждающих доказательств, что ставит под сомнение правомерность подобных действий.
Согласно результатам расследования, использование программного обеспечения для распознавания лиц не всегда соответствует установленным нормам. В некоторых случаях полицейские используют этот метод как главный инструмент для идентификации подозреваемых, не опираясь на дополнительные свидетельства. Это особенно характерно для тех подразделений, которые не обязаны предоставлять отчёты о применении подобных технологий.
Проанализировав документы 23 полицейских департаментов, журналисты установили, что 15 из них, охватывающих 12 штатов, прибегали к арестам на основании совпадений, предложенных искусственным интеллектом, игнорируя необходимость проверки данных другими методами. Такая практика зачастую нарушает собственные внутренние правила этих ведомств, где прописана необходимость подтверждения выводов, сделанных с использованием ИИ.
В открытых данных упоминаются восемь случаев, когда люди оказались в заключении исключительно из-за ошибок системы распознавания лиц. Аналитики отмечают, что при использовании традиционных методов расследования эти граждане вряд ли бы стали фигурантами уголовных дел.
The Washington Post также напомнила о ранее известных инцидентах, связанных с использованием иных технологий на основе искусственного интеллекта. Например, полиция Чикаго отказалась от применения системы ShotSpotter, которая была разработана для определения звуков выстрелов. Ошибки в работе этой программы приводили к серьёзным последствиям. Например, Майкл Уильямс провёл почти год в тюрьме по ложному обвинению. В его случае алгоритмы приняли звук петард за стрельбу, что стало причиной судебного разбирательства.
Эксперты подчёркивают, что такие случаи демонстрируют недостаточную надёжность технологий ИИ и необходимость более строгого контроля за их использованием в правоохранительной сфере.
Оригинал публикации на сайте CISOCLUB: "Полиция в США ошибочно задерживает граждан из-за несовершенства ИИ-технологий распознавания лиц".
Смотреть публикации по категориям: Новости | Мероприятия | Статьи | Обзоры | Отчеты | Интервью | Видео | Обучение | Вакансии | Утечки | Уязвимости | Сравнения | Дайджесты | Прочее.
Подписывайтесь на нас: VK | Rutube | Telegram | Дзен | YouTube | X.