Ментовские истории.
Я мужчина. Среднего возраста. Среднего роста. Среднего телосложения. Средний размер ноги, руки и головы, всё среднее).
У меня обычная средняя семья. Обычная машина, каких миллионы. Средняя работа – с 8.00 до 17.00, 5 дней в неделю. Средние обычные выходные. Обычный отпуск 14 дней в году.
Я среднестатистический.
И вот. Сижу в обычном офисе, работаю на обычном компьютере, какие-то обычные записи, звонки. Всё обычно.
Опять звонок, отвечаю:
Я - Да, слушаю?
Х – Здравствуйте. Вы И***ов П**р П******ч?
Я - Дааа. Кто это?
Х – С вами говорит оперуполномоченный С****ого РУВД капитан Б****в.
Голос не знакомый, очень серьёзный. Давление резко подскакивает, сердцебиение учащается, ладони потеют.
Я – Слушаю вас.
Х – Вы были ** сентября в **часов**минут на площади перед ****?
Я (чуть опешив) – Нннет … . Я был на работе. А что случилось?
Х (грозно) – Вы были там, где я сказал! И не надо меня обманывать! Вам нужно прибыть к нам в РУВД для дачи объяснений!!!
Я (возмущённо) – Да что вы такое говорите! Я был на работе, тут все подтвердят.
Ещё минут 5 мы препираемся по телефону, градус разговора постепенно снижается. Выяснилось, что ** сентября в **часов**минут на площади перед **** проходил несанкционированный митинг, и камеры видеонаблюдения с системой распознавания лиц определили меня как участника этого митинга (а это как минимум административный штраф). Но всё закончилось благополучно (за исключением скачка моего давления при панической атаке): мы обменялись фото с наружной камеры и моим фото, поняли, что там не я, и милосердно раскланялись, благодаря друг друга за приятное знакомство (хахаха).
Почему это произошло?
Совместный технический комитет (ISO/IEC JTC 1) ISO (Международной организации по стандартизации) и IEC (Международной электротехнической комиссии) и, в частности, Технический подкомитет 37, который работает над новым стандартом ISO/IEC 24358, выделяют ряд технических проблем, в значительной степени влияющих на количество ошибок работы систем распознавания.
1. Большинство изображений лиц собираются с помощью камер, которые не распознают лица. Это контрастирует с ситуацией с биометрическими данными по отпечаткам пальцев и радужной оболочке глаза, когда датчики позволяют точно определить тип изображения, которое следует собрать. В итоге некоторые изображения включают два лица, возможно от кого-то на заднем плане или от рисунка футболки. Такие случаи могут подорвать узнаваемость.
2. Фотографии собираются без какой-либо оценки качества, полагаясь только на фотографа.
3. Оценка качества отделена от момента получения фото. Во многих случаях фотография собирается и позже отправляется на внутренний сервер, где она оценивается по качеству. Если обнаруживается низкое качество (человеческим или автоматическим способом), повторный сбор изображений лиц начинается через несколько часов или дней и с дополнительными расходами.
4. Плохое предъявление. Основные причины неудачи в распознавании возникают из-за того, что субъекты не демонстрируют прямое, нейтральное выражение лица, с открытыми глазами, без очков, их лица не находятся в правильном положении.
5. Доверие к повышению точности распознавания лиц. Алгоритмы распознавания лиц тщательно исследованы, а повышение точности подтверждено документально. Тем не менее нет подобных исследований в области улучшения качества изображения лица.
6. Автоматизированное и ручное распознавание лиц работают с разными типами изображений.
7. Людям нужны фото с высоким разрешением, тогда как автоматизированные алгоритмы в основном построены на стандартизированных фронтальных видах с относительно низким разрешением.
Итак, мы понимаем, что 100% распознавание лиц сегодня - это лишь сюжет их крутого боевика и неопределённая перспектива из будущего.
Причём следует отметить, что кроме описанных выше технических недоработок существуют и другие угрозы повсеместного внедрения «всевидящего ока»: это похищение биометрических данных, их подделки, использование биометрических данных мошенниками с помощью подставных фирм, несовершенство законодательства и многое другое.
Мы живём сегодня. Моя история хоть и попортила нервы, но закончилась вполне благополучно. А вот несколько реальных историй, когда система распознавания лиц едва не разрушила жизнь человека по ошибке (https://skillbox.ru/media/business/5-sluchaev-kogda-sistema-raspoznavaniya-lits-edva-ne-razrushila-zhizn-cheloveka-po-oshibke/).
Из «Ашана» на нары
Россиянин Антон Леушин одним из первых испытал на себе «преимущества» новой системы распознавания лиц в московском «Ашане». В октябре 2020 года мужчина зашёл в гипермаркет за покупками, но так и не смог ничего купить — его остановили охранники. Оказалось, что система распознавания лиц определила в нём преступника, который за три недели до этого украл из «Ашана» элитный алкоголь на 78 тысяч рублей.
«На фото с камер и видео был человек среднего телосложения в чёрной кепке, чёрной кофте, синих джинсах, с обычной белой медицинской маской на лице, из-под которой была видна борода. По этим „особым“ приметам система указала на меня», — пожаловался Леушин вскоре после инцидента.
Охранники вызвали полицию, и Леушина доставили в участок. По словам потерпевшего, полицейские несколько часов угрожали ему обыском в квартире. Они также говорили, что Леушину грозит до восьми лет тюрьмы, и ослабили хватку только после того, как приехал адвокат. Тогда они отпустили мужчину без составления протокола — ограничились разговором с адвокатом.
В результате Леушину всё же пришлось оплатить услуги адвоката (15 тысяч рублей). Когда инцидент получил широкий резонанс после поста в Сети, представители магазина извинились перед Антоном в соцсети, но причину ошибки так никто и не объяснил.
Из кандидатов наук в воры
Спустя примерно год похожая история произошла в подмосковном Одинцово. Там кандидат философских наук Фёдор Ермошин получил не только неприятный опыт общения с полицией, но и побои. Трое неизвестных скрутили его на улице и затолкали в автомобиль.
Оказалось, что нападавшие работали в МВД. Система распознавания лиц в базе данных полиции определила 70-процентное сходство Ермошина с преступником, который тоже носил очки и похожую осеннюю одежду. Настоящий нарушитель закона торговал на рынке украденными ранее игровыми консолями.
«Защёлкнулись наручники, в машине меня положили на заднее сиденье лицом, двое сели сверху. Говорят: „Сейчас ты нам всё расскажешь, как украл приставки в Строгино и сбывал их на Одинцовском рынке“, — вспоминал Ермошин в разговоре с журналистами.
Недоразумение разъяснилось, когда полицейские увидели паспорт Ермошина. Однако его всё равно повезли в местный отдел полиции, где продержали несколько часов.
«„Ну извини“ — это всё, что мне сказали, когда всё выяснилось. Вернули мне паспорт, предварительно сняв отпечатки пальцев и сфотографировав меня, и выпустили», — говорит Ермошин.
После выхода из участка мужчина на всякий случай зафиксировал телесные повреждения в травмпункте. Он также написал заявление в полицию и прокуратуру, чтобы установить личности нападавших.
Идти за айфоном — попасть в полицейский участок
От ошибок, связанных с биометрической идентификацией, страдают не только россияне. В 2019 году американский студент Усман Бах подал в суд на Apple. В иске он утверждал, что система распознавания лиц в магазинах компании ложно связала его с преступником.
Незадолго до инцидента студент потерял водительское удостоверение. Он предположил, что нашедший документ злоумышленник воспользовался им, чтобы подтвердить личность при покупке в магазине. В этот момент система видеонаблюдения связала имя Баха с лицом другого человека, который позже совершил ещё несколько краж в разных городах и штатах страны. С такой версией согласился даже следователь из Нью-Йорка. Однако в других юрисдикциях Баха до сих пор обвиняют в кражах — даже несмотря на то, что у него есть алиби.
Баха арестовали в его доме в ноябре 2018 года. Однако в ордере полицейских была фотография другого человека. Подозреваемых объединял лишь чёрный цвет кожи, в остальном они были не похожи друг на друга.
В иске Бах потребовал от Apple и её подрядчика по обеспечению безопасности магазинов Security Industry Specialists миллиард долларов. Он написал, что был вынужден ответить на многочисленные ложные обвинения, которые привели к сильному стрессу и лишениям в его жизни, а также к значительному ущербу его положительной репутации, для поддержания которой он приложил много усилий.
Любопытно, что в Apple отказалась комментировать сам иск, но представители компании сказали прессе, что не используют подобных технологий в фирменных магазинах.
Остаться без работы из-за «расистского» ПО
В октябре 2021 года ошибка системы идентификации, которую использует компания Uber в Великобритании, оставила темнокожего водителя без средств к существованию. Проработав в компании пять лет, однажды он не смог войти в свой профиль, чтобы начать развозить людей, — система просто перестала распознавать его. Водитель посчитал, что всему виной «расистское» программное обеспечение, которое некорректно работает при идентификации цветных людей.
С помощью приложения Uber пытается исключить из рядов водителей нелегалов и водителей без лицензии. Отстаивать свои права оставшийся без работы мужчина пошёл в комиссию по трудовым спорам, а его позицию поддержал Независимый профсоюз работников Великобритании (IWGB). Там заявили, что с начала пандемии как минимум 35 других водителей попали в похожую ситуацию из-за ошибок в программном обеспечении Uber. Они призвали компанию отказаться от «расистского» алгоритма и восстановить уволенных водителей.
Впрочем, подобные иски в адрес Uber были делом времени — компания использует алгоритмы для распознавания лиц от Microsoft. Ещё в 2019 году Microsoft признала, что программное обеспечение для распознавания лиц цветных людей работает хуже, чем для лиц белых. Исследования нескольких пакетов программного обеспечения для распознавания лиц показали, что частота ошибок при идентификации людей с тёмной кожей выше, чем при идентификации светлокожих.