Видеозаписи, сделанные с помощью умных очков Meta (признана в России экстремистской и запрещена) Ray-Ban, отправляются на проверку сотрудникам в Кению, которые занимаются ручной разметкой данных. Как сообщает шведское издание SVD, среди этих материалов регулярно оказываются кадры, содержащие сугубо личную информацию, которая по регламенту не должна попадать на просмотр посторонним.
Устройство позволяет снимать видео двумя способами: пользователь может вручную активировать запись, чтобы запечатлеть происходящее с его точки обзора, либо задействовать функцию ИИ, чтобы задавать вопросы о том, что попадает в поле зрения камеры. Во втором случае видео неизбежно передается на серверы Meta для анализа, однако, как выяснилось, далее эти материалы могут просматривать люди.
По информации издания, речь идет о сторонних подрядчиках, базирующихся в Кении, в задачи которых входит ручное распознавание объектов на отснятых фрагментах. Один из таких сотрудников рассказал, что в потоке видео регулярно встречаются крайне чувствительные сцены.
«Кто-то, возможно, ходил в очках или случайно оставил их включенными, а в это время его партнер вышел из ванной обнаженным», – поделился работник.
Несколько источников описали материалы, демонстрирующие посещение туалета, интимную близость и другие приватные моменты.
Остается неясным, при каких именно обстоятельствах такие видео попадают на проверку. Упоминаются случаи, когда люди намеренно использовали очки во время секса, что указывает на ручную активацию записи. Однако это также может означать, что материалы отправляются для анализа даже тогда, когда пользователь не обращается к голосовому помощнику, а просто снимает происходящее.
Эксперты обращают внимание на отсутствие прозрачности в отношении того, какие именно фрагменты передаются Meta при использовании функций искусственного интеллекта. Например, если владелец очков спрашивает у системы марку автомобиля, непонятно, в какой момент передача данных прекращается: сразу после получения ответа или спустя некоторое время. В условиях использования сервиса указано лишь, что в отдельных случаях взаимодействие с ИИ может анализироваться как автоматически, так и вручную.
Когда журналисты SVD запросили у Meta разъяснения по этому поводу, компания ограничилась отсылкой к пользовательскому соглашению и политике конфиденциальности. Журналисты также попытались проанализировать сетевой трафик приложения, однако им удалось лишь зафиксировать, что телефон регулярно связывается с серверами Meta в Швеции и Дании.
Бывшие сотрудники компании пояснили, что чувствительные данные не должны направляться на проверку людям.
Ранее авторитетное издание Ars Technica уволило редактора за использование ИИ.