Новые технологии - нарушение конфиденциальности?
Американцы выделяют миллиарды долларов в год на отрасли, которые обещают выглядеть моложе. Российское мобильное приложение FaceApp стало безумно популярным, казалось бы, за одну ночь, хотя было запущено еще в 2017 году. Применяя фильтр на основе искусственного интеллекта, приложение для редактирования фотографий изменяет фотографии лиц своих пользователей, чтобы показать им, как они могут выглядеть, когда они намного старше. Получающиеся изображения - не единственная вещь в FaceApp, которая кажется некоторым жуткой. FaceApp - дело рук относительно неизвестной в России компании. Эта программа, которая на фоне доказательств вмешательства РФ на выборах в США и других правонарушений со стороны российских хакеров вызвало широкую обеспокоенность в Вашингтоне. Демократический Национальный комитет и лидер сенатского меньшинства Чак Шумер отмечают данное приложение как приложение, которое несет угрозу конфиденциальности.
Они рекомендуют прекратить использование FaceApp, потому что существует несколько вариантов, как разработчики могут использоваться ваши данные, включая данные о вашем лице. Но проблемы, которые ставит FaceApp, не уникальны. Прогуливаясь где угодно, ваш образ через камеры видеонаблюдений может попасть в базы данных по распознаванию лиц. То, как эта информация может быть добыта, обработана, куплена или продана, минимально регламентировано - как в России и Соединенных Штатах, так и в большинстве стран мира .
Военные, правоохранительные органы и коммерческие интересы предусматривают широкое использование искусственного интеллекта и распознавания лиц, но правовые и нормативные меры контроля значительно отстают от технологий.
Для большинства людей никогда не выходить на улицу не вариант. Таким образом, законы и в РФ, и в Соединенных Штатах, и в других местах должны быть оперативно скорректированы, и не только из-за FaceApp.
Внезапно повсеместно распространенное приложения для портретного старения собирает пользовательские фотографии и другие пользовательские данные и сохраняет некоторые или все эти данные на облачных серверах. В ответ на критику своей политики конфиденциальности FaceApp опубликовал заявление, в котором утверждалось, что «большинство» фотографий удаляются в течение 48 часов. Тем не менее, нет никаких юридических гарантий этого утверждения.
Wireless Lab, которая разработала приложение, также говорит, что пользователи могут запросить удаление своих данных, но процесс для этого также не отмечен в политике конфиденциальности.
Опасность использования ИИ
FaceApp - не единственное приложение со слабой защитой конфиденциальности. Это даже не единственное приложение для редактирования фотографий со слабой защитой конфиденциальности. Рассмотрим китайское приложение Meitu , или даже Snapchat и Instagram. Как и FaceApp, все три из этих приложений позволяют пользователям отправлять свои собственные фотографии и применять фильтр на основе ИИ (искусственного интеллекта) для преобразования своего изображения. Приложения, разработанные крупными американскими компаниями, такими как Snapchat и Instagram, обычно, по крайней мере, пытаются соответствовать существующим законам о конфиденциальности. Однако, как мы видели в скандале с Cambridge Analytica, когда сторонний разработчик приложений собирал пользовательские данные, которые Facebook обещал защитить, а затем использовал эти данные, чтобы повлиять на выборы, основные технические платформы с очень сложными инженерными возможностями могут потерпеть неудачу в частной жизни в больших масштабах.
Ключевое различие между FaceApp и Facebook в том, что российская компания разработала свое приложение первой. «Нью-Йорк пост» опубликовал взрывной заголовок: «У россиян теперь все наши фотографии». Но возвращение к риторике в стиле холодной войны может ввести в заблуждение. Опасения по поводу российских приложений проистекают из тесных взаимоотношений между правительством и промышленностью, а также из-за вероятности того, что российские компании не смогут бороться с запросами правительства на получение данных. С другой стороны, компаниям даже в самых либеральных и демократических странах часто приходится делиться данными и со своим правительством. В Соединенных Штатах технологические компании и их пользователи в целом пользуются более высоким уровнем правовой защиты от правительства, чем их коллеги в России. Но пользователи нерусских приложений все равно должны беспокоиться о том, где их данные окажутся.
Решение вопроса конфиденциальности
Независимо от происхождения, технологические компании должны совершенствовать технологии безопасности, чтобы защитить конфиденциальность своих потребителей. Частично для этого достаточно просто информировать пользователей о том, как используются данные. Это обоснование политики конфиденциальности. Однако многие пользователи не читают эти политики.
Разработчики должны пойти дальше и встроить фактическую защиту конфиденциальности в свои приложения. Они могут включать уведомления об использовании данных (или фотографий), четкие внутренние политики хранения и удаления данных и простые рабочие процессы для пользователей, запрашивающие исправление и удаление данных. Кроме того, поставщики приложений и платформы, такие как Apple, Microsoft и Facebook, должны встроить больше средств защиты для сторонних приложений.
Но попросить технологические компании внести несколько исправлений будет недостаточно для решения более масштабной системной проблемы, которая заключается в том, что наше общество просто не выяснило, как обращаться с конфиденциальностью таким образом, чтобы реально защищать личную жизнь людей.
То, как мы концептуализируем конфиденциальность, сосредоточив внимание, например, на том моменте, когда пользователь решает ввести личные данные на веб-сайт, не соответствует реалиям современных технологий. Данные собираются постоянно, часто так, что потребителям практически невозможно узнать о них. Вы не можете ожидать, что каждая камера трафика будет включать политику конфиденциальности. Между тем, наборы данных часто продаются, покупаются, агрегируются и преобразуются сторонними брокерами данных способами, невообразимыми для потребителей.
Многие положения о конфиденциальности, в том числе Общее положение о защите данных Европейского Союза, включают право требовать удаления ваших данных. Но это право не применяется, когда ваши данные используются для обучения ИИ и систем машинного обучения , или когда ваше лицо добавляется в набор данных по распознаванию лиц без вашего ведома.
Только в прошлом месяце Microsoft удалила общедоступный набор данных из 10 миллионов фотографий лиц, в основном собранных без согласия или уведомления пользователя. Университет Дьюка и Стэнфордский университет также удалили большие наборы данных изображений лица и тела, которые в основном были сделаны без уведомления или согласия. Люди, чьи изображения были включены в эти наборы данных, вероятно, не знали, что их лица использовались для обучения военных систем в Китае.
Распознавание лиц - это только верхушка айсберга. Считыватели номерных знаков , торговые маяки и целый набор мобильных трекеров следят за людьми как онлайн, так и в автономном режиме. Устройства Amazon Alexa и Google Home слушают все, что вы говорите. Roombas карта ваших поэтажных планов. Фитбит записывает ваше местоположение. Наши действующие законы не могут обрабатывать огромное количество данных, собранных о людях, которые профессор Гарварда Шошанна Зубофф называет « эпохой надзора за капитализмом ».
Нам нужны более совершенные законы о конфиденциальности, учитывающие новые риски, связанные с распознаванием лиц, искусственным интеллектом, машинным обучением и другими технологическими достижениями. Чтобы справиться с рисками конфиденциальности в большей экосистеме данных, нам необходимо на законодательном уровне отрегулировать использование полученной личной информации.
Нам нужны гарантии от практического вреда, который могут нанести вторжения в частную жизнь; это может означать, например, ограничение использования алгоритмов распознавания лиц для полицейской деятельности. Мы также нуждаемся в законах, которые дают отдельным лицам власть над данными, которые они добровольно не предоставили.
У нас не может быть эффективных законов, пока мы не расширим наше понимание конфиденциальности, чтобы отразить мир данных, в котором мы сейчас живем. Спор о конфиденциальности FaceApp не преувеличен, но некоторые атаки направлены неверно. Проблема не в приложениях для редактирования фотографий, сторонних разработчиках или российских технологических компаниях. Как общество мы сталкиваемся с системной неспособностью защитить конфиденциальность, когда новые технологии заставляют рушиться наши предвзятые представления о конфиденциальности.