Правительственные учреждения подключаются к компании по распознаванию лиц, чтобы доказать, что вы-это вы.
Налоговая служба США планирует потребовать от граждан создавать учетные записи в частной компании по распознаванию лиц, чтобы подавать налоговые декларации онлайн. Налоговое управление США присоединяется к растущему числу федеральных и государственных учреждений, которые заключили контракты с ID.me для аутентификации личности людей, получающих доступ к услугам.
Шаг Налоговой службы направлен на сокращение масштабов кражи личных данных-преступления, от которого страдают миллионы американцев. Налоговое управление, в частности, сообщило о ряде налоговых заявлений от людей, утверждающих, что они являются другими, и мошенничество во многих программах, которые осуществлялись в рамках Американского плана помощи, вызывало серьезную озабоченность правительства.
Решение IRS вызвало негативную реакцию, частично из-за опасений по поводу того, что граждане должны использовать технологию распознавания лиц, а частично из-за трудностей, с которыми некоторые люди сталкивались при использовании системы, особенно с некоторыми государственными учреждениями, которые предоставляют пособия по безработице. Эта реакция побудила Налоговое управление пересмотреть свое решение.
Как исследователь компьютерных наук и председатель Совета по глобальной технологической политике Ассоциации вычислительной техники, я принимал участие в изучении некоторых проблем, связанных с использованием правительством технологии распознавания лиц, как ее использования, так и ее потенциальных недостатков. Было высказано множество опасений по поводу общего использования этой технологии в полиции и других государственных функциях, часто сосредоточенных на том, может ли точность этих алгоритмов иметь дискриминационные последствия. В случае, если ID.me, есть и другие проблемы, связанные с этим.
ID.me это частная компания, которая образовалась как TroopSwap, сайт, который предлагал розничные скидки военнослужащим. В рамках этих усилий компания создала службу идентификации, чтобы военнослужащие, получившие право на скидки в различных компаниях, могли доказать, что они действительно являются военнослужащими. В 2013 году компания переименовала себя ID.me и начал более широко продвигать свой идентификационный сервис. Министерство по делам ветеранов США начало использовать эту технологию в 2016 году, что стало первым государственным использованием компании.
Для использования ID.me, пользователь загружает приложение для мобильного телефона и делает селфи—фотографию собственного лица. ID.me затем сравнивает это изображение с различными идентификаторами, которые оно получает либо с помощью открытых записей, либо с помощью информации, которую кандидаты предоставляют через приложение. Если он находит совпадение, он создает учетную запись и использует распознавание изображений для идентификации. Если он не может выполнить матч, пользователи могут связаться с “доверенным судьей” и сделать видеозвонок, чтобы устранить проблему.
Ряд компаний и государств используют ID.me в течение нескольких лет. В новостных сообщениях были задокументированы проблемы, с которыми люди сталкивались ID.me неспособность подтвердить их подлинность, а также с поддержкой клиентов компании в решении этих проблем. Кроме того, технологические требования системы могут привести к увеличению цифрового разрыва, что затруднит доступ к ним для многих людей, которые больше всего нуждаются в государственных услугах.
Но большая часть беспокойства по поводу IRS и других федеральных агентств, использующих ID.me вращается вокруг использования технологии распознавания лиц и сбора биометрических данных.
ТОЧНОСТЬ И ПРЕДВЗЯТОСТЬ
Начнем с того, что существует ряд общих опасений по поводу точности технологий распознавания лиц и наличия дискриминационных искажений в их точности. Это побудило Ассоциацию вычислительной техники, среди прочих организаций, призвать к введению моратория на использование правительством технологии распознавания лиц.
Исследование коммерческих и академических алгоритмов распознавания лиц, проведенное Национальным институтом стандартов и технологий, показало, что алгоритмы сопоставления лиц в США, как правило, имеют более высокие показатели ложноположительных результатов для азиатских и черных лиц, чем для белых лиц, хотя недавние результаты улучшились. ID.me утверждает, что в процессе проверки соответствия лиц нет расовой предвзятости.
Существует множество других состояний, которые также могут вызвать неточность—физические изменения, вызванные болезнью или несчастным случаем, выпадение волос в результате химиотерапии, изменение цвета кожи в результате старения, изменение пола и другие. Как любая компания, в том числе ID.me, обработка таких ситуаций неясна, и это один из вопросов, который вызывает озабоченность. Представьте, что вы попали в аварию с уродством и не можете войти на веб-сайт своей медицинской страховой компании из-за повреждения вашего лица.
Технология распознавания лиц быстро распространяется. Готовы ли технологии—и общество-к этому?
КОНФИДЕНЦИАЛЬНОСТЬ ДАННЫХ
Есть и другие проблемы, которые выходят за рамки вопроса о том, насколько хорошо работает алгоритм. В рамках своего процесса, ID.me собирает очень большой объем личной информации. В нем очень длинная и трудночитаемая политика конфиденциальности, но, по сути, в то время как ID.me не делится большей частью личной информации, он делится различной информацией об использовании Интернета и посещениях веб-сайтов с другими партнерами. Природа этих обменов не сразу очевидна.
Таким образом, возникает один вопрос: каким уровнем информации компания делится с правительством и может ли эта информация использоваться для отслеживания граждан США между регулируемыми границами, применимыми к государственным учреждениям. Защитники конфиденциальности как слева, так и справа уже давно выступают против любой формы обязательного единого государственного удостоверения личности. Позволяет ли передача идентификации частной компании правительству, по сути, добиться этого с помощью уловок? Нетрудно представить, что некоторые штаты—и, возможно, в конечном итоге федеральное правительство—могли бы настаивать на идентификации с ID.me или один из его конкурентов, чтобы получить доступ к государственным услугам, получить медицинскую страховку и даже проголосовать.
Как утверждала Джой Буоламвини, исследователь искусственного интеллекта Массачусетского технологического института и основатель Лиги алгоритмической справедливости, помимо проблем точности и предвзятости, стоит вопрос о праве не использовать биометрические технологии. “Давление правительства на граждан, чтобы они делились своими биометрическими данными с правительством, влияет на всех нас—независимо от вашей расы, пола или политической принадлежности”, - написала она.
СЛИШКОМ МНОГО НЕИЗВЕСТНОГО
Еще один вопрос заключается в том, кто проводит аудит ID.me для обеспечения безопасности своих приложений? Пока никто не обвиняет ID.me из-за плохой практики исследователи безопасности обеспокоены тем, как компания может защитить невероятный уровень личной информации, с которой она в конечном итоге столкнется. Представьте себе нарушение безопасности, которое привело к раскрытию информации IRS для миллионов налогоплательщиков. В быстро меняющемся мире кибербезопасности, с угрозами, варьирующимися от индивидуального взлома до международной преступной деятельности, эксперты хотели бы быть уверенными в том, что компания, предоставляющая так много личной информации, использует самые современные средства безопасности и поддерживает их в актуальном состоянии.
Большая часть вопросов, связанных с решением IRS, возникает из-за того, что правительство только начинает использовать частные компании для обеспечения биометрической безопасности, и некоторые детали все еще не полностью объяснены. Даже если вы признаете, что использование технологии IRS соответствующим образом ограничено, это потенциально может стать началом того, что может быстро привести ко многим правительственным учреждениям, использующим коммерческие компании по распознаванию лиц, для обхода правил, которые были введены специально для ограничения правительственных полномочий.
США находятся на краю скользкого склона, и хотя это не означает, что технология распознавания лиц вообще не должна использоваться, я считаю, что это означает, что правительство должно проявлять гораздо больше осторожности и должной осмотрительности при изучении местности впереди, прежде чем предпринимать эти критические первые шаги.
