Присоединение смарт-очков к системе поиска по лицу позволяет опознать незнакомца с первого взгляда.
Два студента Гарварда недавно обнаружили, что можно объединить умные очки с технологией поиска по изображению лица, чтобы раскрыть личные данные любого человека, включая его имя, адрес и номер телефона, просто взглянув на него.
Аньфу Нгуен и Кейн Ардайфио рассказали, как они соединили пару очков Ray Bans 2 с инвазивной системой поиска по лицу, чтобы помочь идентифицировать незнакомцев путем перекрестного поиска их информации в различных базах данных поиска людей. Затем они использовали большую языковую модель для быстрого объединения всех этих данных, что позволило одним взглядом вычислить человека или получить информацию для мошенничества за считанные секунды, а также использовать их в других неблаговидных целях, например,
«какой-нибудь человек может просто найти домашний адрес девушки в поезде и просто проследить за ней до дома»
По словам студентов, все это стало возможным благодаря недавнему прогрессу в области LLM.
«Синергия между LLM и обратным поиском по лицу позволяет полностью автоматически извлекать данные, которые ранее были невозможны при использовании только традиционных методов».
Там, где раньше кто-то мог потратить значительное время на поиск информации в публичных базах данных по одному лишь изображению человека, их антиутопические умные очки делают эту работу за несколько секунд, говорится в их демонстрационном видео.
По словам соавторов, они изменили пару очков Ray Bans 2, чтобы создать I-XRAY, чтобы привлечь внимание к «серьезным проблемам конфиденциальности» в Интернете в связи с быстрым развитием технологий.
Ray Bans - «самый жуткий способ» протестировать технологии
По их словам, они выбрали Ray Bans 2 для своего проекта, потому что смарт-очки «выглядят почти неотличимо от обычных очков». Нгуен сказал, что использование умных очков - это «самый жуткий способ», который они могли придумать, чтобы попытаться незаметно просканировать лица.
Соавторы не раскрывают код, сообщил Нгуен. Однако они рассказали, как работает их технология и как шокированы случайные незнакомцы, использованные в качестве испытуемых, узнав, как легко их можно идентифицировать, просто получив доступ к информации, размещенной в интернете с помощью смарт-очков.
Нгуен и Ардайфио испытали свою технологию на станции метро «на ничего не подозревающих людях в реальном мире». Чтобы продемонстрировать, как можно обмануть людей, студенты даже утверждали, что знают некоторых испытуемых, используя информацию, полученную с помощью очков, чтобы сделать резонансные ссылки и подделать знакомство.
Десятки испытуемых были идентифицированы, утверждали студенты, хотя некоторые результаты были оспорены. Чтобы не привлекать внимания к сканированию лиц, студенты закрыли свет, который автоматически включается, когда очки Ray Bans 2 ведут запись, сказал Ардайфио.
Откажитесь от PimEyes, предупреждают студенты.
Для Нгуена и Ардайфио смысл проекта заключался в том, чтобы убедить людей отказаться от использования инвазивных поисковых систем, чтобы защитить свою частную жизнь в Интернете. Например, попытка использовать I-XRAY для идентификации одного человека не удалась, потому что он отказался от использования PimEyes.
Многие игроки в мире ИИ пытаются использовать эту технологию, в том числе компания Clearview AI, создающая систему поиска по лицу для полицейских, которая изучает возможность создания пары умных очков, в которых будет работать технология распознавания лиц.
Это вызывает беспокойство по нескольким причинам: поскольку цель Clearview - внести почти каждого человека в свою базу данных распознавания лиц, полицейские уже неэтично используют этот инструмент без разрешения для проведения личного поиска, а Clearview уже была оштрафована на 33 миллиона долларов за нарушение конфиденциальности.
К счастью, противостояние этой новой угрозе пока не требует больших усилий. Нгуен и Ардайфио дают инструкции по удалению своих лиц из систем обратного поиска по лицам, а также из систем поиска людей. Они также предоставили форму, через которую люди могут обратиться к ним с вопросами.
Похоже, компании преуменьшили риски конфиденциальности: одна отметила, что такие же риски существуют и с фотографиями людей, а вторая заявила, что PimEyes не «идентифицирует» людей (она лишь указывает на ссылки на их фотографии, где пользователи часто могут найти идентифицирующую информацию).
В Европейском союзе, где сбор данных о распознавании лиц обычно требует прямого согласия человека в соответствии с Общим положением о защите данных, смарт-очки, подобные I-XRAY, могут быть не так важны для людей, предпочитающих сохранять анонимность в общественных местах. Но в США I-XRAY могут послужить для недобросовестных участников очередной аферы.
«Если люди будут использовать эту идею, я думаю, это очень плохо», - сказал Ардайфио. «Я надеюсь, что информированность о том, как защитить свои данные, перевесит все негативные последствия, которые это может иметь».
Подписывайтесь на канал – будет интересно.
Нажимайте на колокольчик, чтобы не пропускать новости.
Ставьте лайки и делитесь с друзьями интересными статьями.
Читайте больше статей на канале: