Автор Аиша Каунтс
Смешение виртуальной реальности с искусственным интеллектом может превратиться в кошмар для конфиденциальности.
По словам исследователей, анализируя, как люди двигались в очках виртуальной реальности, модель машинного обучения в большинстве случаев точно предсказывала их рост, вес, возраст, семейное положение и многое другое. В работе показано, как можно использовать искусственный интеллект для угадывания персональных данных без необходимости их прямого раскрытия пользователями.
В ходе одного исследования, проведенного в Калифорнийском университете в Беркли в феврале, исследователи смогли выбрать одного человека из более чем 50 000 других пользователей виртуальной реальности с точностью более 94%. Они достигли этого результата, проанализировав всего 200 секунд данных о движении. Во втором июньском исследовании исследователи вычислили рост, вес, размер ноги и страну проживания человека с точностью более 80%, используя данные 1000 человек, играющих в популярную виртуальную игру Beat Saber. Даже личная информация, такая как семейное положение, статус занятости и этническая принадлежность, может быть определена с точностью более 70%.
Исследователи использовали модель машинного обучения для анализа данных, загруженных в гарнитуры виртуальной реальности, таких как движения глаз или рук. «Простыми для модели являются возраст, пол, этническая принадлежность, страна», — сказал ведущий исследователь Вивек Наир из Калифорнийского университета в Беркли. Например, чтобы определить чей-то возраст, модель могла угадать, основываясь на том, как быстро они поразили виртуальную цель. Более быстрое время реакции коррелирует с лучшим зрением и более молодым возрастом. «Но есть даже такие вещи, как ваш уровень дохода, ваш статус инвалидности, состояние здоровья, даже такие вещи, как политические предпочтения, можно угадать», — сказал он.
Почти половина участников обоих исследований использовали Quest 2 от Meta Platforms Inc., 16% использовали Valve Index, а остальные участники использовали другие гарнитуры, такие как HTC Vive или Samsung Windows Mixed Reality.
Гарнитуры виртуальной реальности собирают данные, которые недоступны через традиционный веб-сайт или приложение, такие как взгляд пользователя, язык тела, пропорции тела и выражение лица, сказал Джей Стэнли, старший политический аналитик Американского союза гражданских свобод. «Это объединяет целую кучу других проблем с конфиденциальностью, но также усугубляет их».
Meta, которая зарабатывает большую часть своих денег на рекламе на основе пользовательских данных, полагается на машинное обучение, чтобы заполнить пробелы в том, что она знает о людях, хотя неясно, сколько данных VR в этом миксе. В 2021 году Apple внесла изменения в свою политику конфиденциальности, которые ограничили объем данных, которые Meta может отслеживать на iPhone, что лишило гиганта социальных сетей дохода в размере 10 миллиардов долларов.
Это вынудило компанию инвестировать в ИИ. В этом году Meta вернулась к двузначному росту доходов после улучшения своего искусственного интеллекта, позволяющего предсказывать, какой контент и рекламу люди хотят видеть.
Meta запускает ограниченную рекламу в VR-гарнитурах с 2021 года и в то время заявила, что не будет использовать данные, обработанные и хранящиеся на устройствах, такие как изображения рук, для таргетинга рекламы. Отвечая на вопрос о более подробной информации о политике в отношении данных, полученных с гарнитуры, Meta предложила обратиться в свой Центр безопасности Quest, где компания объясняет, как пользователи могут сделать свой аватар, изображение профиля, имя и пользовательское имя конфиденциальными, обеспечивая некоторый контроль над тем, кто еще может это увидеть.
Компания также объясняет, что «данные, отправленные на наши серверы и хранящиеся на них, будут отделены от вашей учетной записи, когда они нам больше не понадобятся для предоставления услуги или улучшения функции отслеживания взгляда».
В прошлом Meta подвергалась тщательной проверке за сбор конфиденциальных личных данных о своих пользователях. В 2021 году Meta закрыла свою систему распознавания лиц и удалила более 1 миллиарда изображений лиц после того, как столкнулась с давлением регулирующих органов.
Биометрические данные, такие как изображения лиц, особенно чувствительны, потому что они не могут измениться и могут легко идентифицировать конкретного человека. Наир сказал, что гарнитуры VR собирают такие же конфиденциальные данные, но поскольку технология новее, пользователи и регулирующие органы еще не понимают ее, что делает ее потенциально более опасной.
Поскольку гарнитурам VR для работы необходимо собирать такие данные, как движения глаз и рук, создать средства управления конфиденциальностью гораздо сложнее, чем для веб-сайтов или приложений. По словам Стэнли, есть несколько способов, таких как шифрование информации, которую собирают гарнитуры виртуальной реальности, или ограничение объема хранимых данных. Но у компаний, производящих эти гарнитуры, также «есть стимулы для сбора информации о людях для маркетинга», — сказал он.
По словам исследователей, контроль конфиденциальности и осведомленность потребителей о том, сколько данных собирают гарнитуры VR, низок. В сочетании с мощной экстраполяцией ИИ «я не думаю, что разумно ожидать, что потребители будут защищать себя здесь», — сказал Стэнли. «Пробелы в знаниях слишком велики, а технологии развиваются слишком быстро».
