Привет, рады приветствовать вас на нашем канале! Статья носит за собой сугубо субъективный характер.
Систему распознавания лиц в Москве признали одной из самых лучших в мире. Чем нам это грозит, какие риски мы несем от того, что нас постоянно снимают и безопасна ли эта технология на самом деле? Разобрались в этой статье!
Для начала нам нужно разобраться, что представляет собой система распознавания лиц?
Распознавание лиц — это технология, которая позволяет автоматически идентифицировать (распознать, кто на фото) или верифицировать (подтвердить, что на фото именно этот человек) человека на фото, видео или вживую. Для распознавания используют нейросети, которые умеют считывать и анализировать уникальные черты человеческого лица, а затем сверять их с базой.
История развития системы распознавания лиц
- Первые эксперименты в области автоматического (машинного) распознавания лиц представил в 1960-х года профессор Техасского университета в Остине и исследователь искусственного интеллекта Вуди Бледсо;
- В 1988 году два исследователя из Университета Брауна применили подход, который называется Eigenface, с использованием линейной алгебры для распознавания и анализа изображений;
- В 1991 году два человека из MIT усовершенствовали технологию Eigenface, добавив факторы окружающей среды. Им удалось автоматизировать процесс распознавания;
- В 2010 году Facebook начал использовать систему распознавания лиц для поиска страниц людей на фотографии;
- В 2011 году власти Панамы и США запустили совместный проект FaceFirst. Это технология распознавания лиц, которая использовалась для обнаружения и пресечения незаконной деятельности в аэропорту Токумен в Панаме. В том же году полиция США и спецслужбы начали применять распознавания лиц для опознания трупов (включая труп террориста №1 - Усамы Бен Ладена);
- С 2014 года система распознавания лиц работает в ритейле и камерах мобильных телефонов.
Как же работает эта система?
В основе системы лежит две нейросети:
Первая — сеть-«выравниватель» (англ. aligner). Она берет картинку, которая поступает с камеры наблюдения, детектирует на ней все лица, которые сможет найти, «вырезает» и «выравнивает» их.
Вторая — сеть-«распознаватель». Она принимает на входе выровненное изображение, которое передала первая нейросеть, а на выходе выдает вектор лица — то есть, набор чисел фиксированной длины. У разных сетей эти векторы могут отличаться, но чаще всего это некая степень двойки. Например, 512:
Чтобы обучить нейросети, используют огромные базы данных с лицами людей. Нейросети на входе сообщают, кому принадлежит это лицо, а затем, в ходе обучения, добиваются, чтобы она выдавала максимально точные результаты. Обучившись на миллионах разных людей, нейросеть начинает распознавать и новые лица — те, которых не было в базе.
Такая технология применима для FACE ID в ваших смартфонах, что позволяет нейросети отличать вас от других людей и предоставлять содержимое телефона только для вас.
Сферы применения системы распознавания лиц:
- Криминалистика;
- Медицина и здравоохранение;
- Ритейл, общепит и банки;
- Образование.
Но что не так с системой распознавания лиц в Москве и почему она не нравится активистам?
В Москве действует самая крупная в мире система распознавания лиц - более 200 тысяч камер и закупка более, чем на 5 млрд. рублей.
Российскую технологию NTechLab признали лучшей в результате тестирования Национального института стандартов и технологий США. NTechLab вели совместные разработки с Genetec — поставщиком систем видеонаблюдения для американского правительства и спецслужб.
Систему для Москвы начали разрабатывать еще в 2015 году, а пилотный проект запустили в 2017-м: тогда это были 1,5 тыс. камер во дворах и подъездах. В 2018-м систему расширили, протестировав на чемпионате мира по футболу. Камеры помогли задержать около 100 нарушителей из базы уголовного розыска. В том же году с помощью камеры с распознаванием лиц задержали грабителя, находящегося в розыске МВД.
Московскую систему видеонаблюдения использовали во время пандемии в 2020 году. С ее помощью выявили более 200 нарушителей карантина и самоизоляции, которым пришлось выплатить штрафы.
Правозащитники указывают на опасность технологии для обычных граждан. Например, юрист Алена Попова неоднократно подавала иски к управлению МВД Москвы и московскому Департаменту информационных технологий с требованием запретить систему распознавания лиц на митингах.
Какие еще проблемы есть у технологии сегодня?
👁️🗨️ Утечки. В данном случае в сеть утекают доступы к камерам наблюдения и результатам распознавания. За деньги можно проверить по фотографии, где и когда камеры засекли конкретного человека.
🤦 Ошибки в распознавании. В 2018 году технология распознавания лиц от Amazon ошибочно опознала 28 членов Конгресса США как преступников. Недавний пример — москвич Сергей Межуев, которого система распознавания лиц в метро ошибочно приняла за преступника в розыске. В итоге мужчину задержали, собрали все данные и не сняли подозрения, пока реальный подозреваемый не нашелся.
❌ Использование лиц без согласия. В США до недавнего времени для обучения нейросетей распознаванию лиц использовали датасеты с лицами из открытых источников. Готовые датасеты тоже были в открытом доступе. Однако сейчас их убрали, так как это нарушает законы о защите персональных данных. Теперь доступ к ним можно получить по запросу и только для исследовательских (некоммерческих) целей.
😠 Дискриминация и расизм. Для обучения нейросетей используют датасеты, которые содержат, в основном, фото людей титульной нации и расы. В итоге системы распознавания лиц плохо распознают азиатов, латиноамериканцев или афроамериканцев. Системы, которые используют в криминалистике, чаще указывают на чернокожих людей как на потенциальных преступников.
Исследование MIT от 2018 года показало, что алгоритмы Microsoft, IBM и китайского Megvii (FACE ++) очень часто ошибаются при идентификации темнокожих женщин по сравнению со светлокожими мужчинами.
Есть примеры дискриминации по полу: например, нейросеть, которая дорисовывает женским фото тело в бикини, а мужским — в костюме. Просто потому, что в сети большинство изображений именно такие.
👮 Использование технологии для манипуляции людьми. Оказавшись в руках властей, системы с распознаванием лиц вместе с базами персональных данных дают неограниченные возможности. Самый радикальный пример того, к чему это может привести — Китай.
В одной из своих предыдущих статей («Владение iPhone делает вас цифровым рабом». Почему Дуров раскритиковал Apple за сотрудничество с Китаем?) мы уже рассказывали о системе рейтинга в Китае и что один из самых крупных игроков технологического рынка мира потакает китайскому правительству. И как раз система распознавания лиц помогает правительству Китая контролировать каждый шаг своих граждан.
Какой итог мы бы хотели подвести? Система распознавания лиц - ведь, конечно, хорошая, но где вероятность того, что собранные данные нейронной сети не попадут в руки плохих людей и не испортят качество жизни сотен тысяч граждан в одном городе? Где вероятность того, что такой "эксперимент" доведет до добра?
Мы ставим этой технологии 3/10 и отдаем вам право сделать выбор - считаете ли вы эту технологию благонадежной?