Мир технологий движется так быстро, что может возникнуть дистопия, а мы этого не осознаем.
Кажется, это та траектория, по которой мы идем с распознаванием лиц. Некоторые из крупнейших имен в техническом пространстве разрабатывают передовые системы распознавания лиц и продают их правительствам по всему миру, но широкая общественность может не полностью понимать все риски, которые они несут.
С видными политиками , как репрезентативный Нью - Йорк Александрией Окасио-Кортес высказываясь об опасности распознавания лица, пришло время , чтобы увязнуть о том, почему так много людей настолько озабочены спорных технологиями.
Это по своей сути жуткий
Первая и самая очевидная причина, почему люди недовольны распознаванием лиц, заключается в том, что это неприятно от природы. В течение многих, многих лет усиление надзора со стороны правительства было горячей проблемой, а такие технологии, как программное обеспечение Amazon Rekognition, только делают будущее мрачной реальности еще более реальным.
Rekognition использовался в полицейских процессах в Соединенных Штатах как способ позволить правоохранительным органам сканировать лица в общественных местах и сопоставлять их с теми, что в полицейских базах данных. Это звучит как нечто злодейское, тираническое правительство, которое будет делать в научной фантастике, но это происходит в реальной жизни.
Исходя из этого, нетрудно понять, почему люди хотят сопротивляться этому.
Это может произойти без вашего согласия
Еще один важный спор заключается в том, что технология распознавания лиц разрабатывается и потенциально используется без согласия населения. Это не ново в технологии; в значительной степени считается, что любые данные, которые вы предоставляете в социальные сети, используются сомнительным образом, например, о котором вы, вероятно, не до конца осведомлены.
Тем не менее, это другая проблема, когда дело доходит до вашего лица. Ранее, в 2019 году, мы узнали, что IBM собирала изображения с Flickr, чтобы обучить свой ИИ распознавания лиц, не сообщая людям, изображенным на фотографиях на платформе. Кроме того, Служба таможенного и пограничного контроля США собирает фотографии людей, въезжающих и покидающих аэропорты, для своей собственной программы распознавания лиц.
Некоторые из этих фотографий были сделаны в мае в результате взлома данных , что, вероятно, не заставило кого-либо чувствовать себя лучше, когда их данные собираются в массовом порядке.
Это даже не всегда работает должным образом
Поскольку системы распознавания лиц развертываются в реальных сценариях, можно предположить, что они, по крайней мере, работают правильно все время. Это предположение было бы неправильно, к сожалению.
Исследование ACLU, проведенное в 2018 году, показало, что программное обеспечение Amazon Rekognition неправильно сопоставляло членов Конгресса с другими людьми, которые появлялись на фотографиях полиции. Непропорциональное количество ложных срабатываний принадлежало цветным конгрессменам, что подчеркивает одну из самых больших проблем с распознаванием лиц: кажется, что это довольно предвзято по отношению к людям, которые не являются белыми мужчинами.
Исследователи из Массачусетского технологического института пришли к аналогичному выводу в 2018 году, обнаружив, что ошибки в распознавании лиц значительно возросли применительно к цветным людям. Общая линия мышления заключается в том, что распознавание лица в том виде, в каком оно существует, отражает уклоны людей, которые его создают.
Учитывая, что Rekognition была развернута реальными полицейскими департаментами и предположительно была продана на ICE , можно предположить, что его проблемы с цветными людьми могут привести к огромным проблемам с правоохранительными органами. Возможно, технология станет лучше, и, по крайней мере, одна компания, Microsoft, признала проблему , но это не особенно утешает тех, кому это может навредить.
Это не было должным образом отрегулировано
Распознавание лиц сопровождается множеством проблем, как указано выше. Тем не менее, это может быть немного более приемлемым для людей с всесторонним федеральным надзором, чтобы убедиться, что им не злоупотребляют. К сожалению, сейчас это не так.
Правительство США еще не приняло широкое постановление о распознавании лиц, поскольку технология все еще достаточно нова, что является проблемой развития в глазах многих. На серии слушаний в конгрессе в мае была редкая двухпартийная поддержка законодательства о распознавании лиц, что могло бы быть немного обнадеживающим.
Конечно, это, вероятно, не будет идеальным решением, даже если оно произойдет. Множество людей, вероятно, не будут доверять нынешнему Конгрессу и администрации президента в разработке лучшего законодательства для распознавания лиц.
Правительственные решения, возможно, не должны прийти на федеральном уровне, все же. Сомервилль, штат Массачусетс и Сан-Франциско запретили распознавание лиц в правоохранительных органах на уровне города. Местным политикам, возможно, придется вмешаться и что-то с этим сделать, пока федеральное правительство выясняет, что делать.