Широкую огласку получила история о задержании мужчины по подозрению в краже часов из бутика после соответствующей публикации в The New York Times. В сети по всему миру эта новость разлетелась с описанием «Впервые был арестован человек из-за ошибки алгоритма распознавания лиц», что вызвало жаркую дискуссию по вопросам внедрения этих технологий в повседневную жизнь. Насколько проблема серьёзна?
Любой подобный алгоритм создаётся в несколько итераций, по результатам тестирования на которых его постоянно улучшают. В данном случае задача была максимально сложной просто потому, что лица на фото с места преступления на самом деле было не разобрать. Именно поэтому, судя по всему, алгоритм, применив остальные доступные параметры, после сопоставления «решил», что на фото именно Роберт Уильямс. Да, была допущена ошибка. Человек больше суток провёл в тюрьме. Полиция Детройта принесла свои извинения публично, все фото и отпечатки удалены из полицейских баз. Казалось бы, конец истории, но почему об этом пишет The New York Times, да ещё и спустя целый год?
Как это часто бывает в Америке, и что сейчас актуально, дело в цвете кожи подозреваемого и отношении к нему полицейских. Когда жена Уильямса спросила, куда его везут, ей ответили: «Погуглите его». Неподобающее поведение со стороны представителей полиции. Не имея на самом деле чётких доказательств, ему прямо вменяли вину за это преступление, пока он находился в участке, грубо при этом обращаясь. Но самым главным триггером стало это:
«Когда я посмотрел на фото этого парня, просто увидел большого чёрного мужчину. Я не увидел никакого сходства», — заявил Уильямс.
То есть проблема-то не в системе распознавания лиц, а в полицейских, которые решили не проверять работу алгоритма и повели себя неподобающим образом. Так доверять ли подобным системам поиск преступников?
На самом деле вопрос не имеет особого смысла. Система распознавания лиц — это лишь дополнительный инструмент в деле поиска преступников. Она не принимает решения об аресте, а лишь «сообщает» о том, что «есть совпадения». Все решения принимаются людьми. Свалив всё на систему, полиция Детройта просто выгородила своих сотрудников. Система же не ответит заявлением о неправомерном обвинении. Даже в полицейском отчёте о результатах проверки алгоритмом (выше на фото) указано, что система не должна использоваться в качестве единственной причины для ареста. Но Джинн выпущен из бутылки. В июне IBM, Amazon и Microsoft практически одновременно заявили на фоне протестов в США, что либо прекратят, либо приостановят работу над подобными системами, а также перестанут продавать наработки полиции. Так можно и до обвинений учёных в колдовстве дойти. Подписывайтесь на S&F, чтобы первыми узнавать самое интересное из мира науки, техники и технологий, и делитесь ссылкой на канал с друзьями и в социальных сетях. Ещё у меня есть канал в Telegram и чат для дискуссий на научные темы. Берегите себя и своих близких. Спасибо, что читаете.