Надзорный орган Великобритании по защите данных расследует Meta* из-за умных очков Ray-Ban: подрядчики, улучшающие ИИ, имели доступ к интимным кадрам, снятым носимыми устройствами. — theregister.com
Надзорный орган Великобритании по защите конфиденциальности задает вопросы об умных очках Meta* с искусственным интеллектом после сообщений о том, что подрядчики, просматривавшие записи с этих устройств, сталкивались с крайне личными моментами, запечатленными ничего не подозревающими пользователями.
Умные очки Ray Ban Meta* в продаже на витрине магазина. Изображение предоставлено: Columbo.photog/ Shutterstock
Управление комиссара по информации (ICO) подтвердило, что связывается с Meta* после расследования шведских изданий Svenska Dagbladet и Göteborgs-Posten. В расследовании утверждается, что на аутсорсинге нанятые работники, которым поручено улучшать системы ИИ Meta*, регулярно просматривают отснятый материал, демонстрирующий всё: от повседневных разговоров до гораздо более интимных сцен.
Вся шумиха связана с умными очками Ray-Ban от Meta* — обычными на вид оправами, напичканными камерами, микрофонами и помощником на базе ИИ, который может делать снимки, записывать видео и реагировать на голосовые команды. В условиях Meta* указано, что некоторые взаимодействия могут просматриваться людьми для улучшения системы, но, согласно шведскому расследованию, в эту очередь на просмотр иногда попадают моменты, которые пользователи вряд ли ожидали бы увидеть посторонним.
Согласно интервью с десятками работников, нанятых субподрядчиком Meta* в Найроби, Кения, их работа заключается в маркировке и просмотре видео, аудио и расшифровок, собранных с очков, чтобы модели ИИ компании могли лучше интерпретировать реальные сцены и разговоры.
Некоторые из опрошенных работников утверждают, что очередь на просмотр содержит не только безобидные запросы к ИИ. На некоторых клипах люди одеваются или пользуются туалетом, в то время как другие фиксируют личные разговоры об отношениях, политике или предполагаемых правонарушениях. Другие, опрошенные шведскими изданиями, заявили, что в клипах иногда попадают такие вещи, как банковские карты, личные документы или другие идентифицирующие данные, случайно попавшие в объектив. Как выразился один из сотрудников: «Мы видим всё».
Расследование поднимает вопросы о трансграничных потоках данных. Согласно GDPR ЕС, компании, передающие личные данные подрядчикам за пределами блока, должны обеспечить защиту этой информации с помощью утвержденных мер безопасности.
Это, что неудивительно, привлекло внимание ICO Великобритании. В заявлении для BBC надзорный орган сообщил, что пишет Meta* после появления этих заявлений, назвав обвинения «вызывающими озабоченность». Регулятор добавил, что организации, развертывающие продукты, собирающие личные данные, должны быть прозрачными в отношении того, какая информация собирается, как она используется и кто может иметь к ней доступ.
«Заявления в этой статье вызывают озабоченность», — заявило ICO. «Мы напишем Meta* с требованием предоставить информацию о том, как она выполняет свои обязательства в соответствии с законодательством Великобритании о защите данных».
Meta*, со своей стороны, сообщила «Би-би-си», что записи используются для улучшения систем ИИ только при определенных обстоятельствах, например, когда пользователи решают поделиться взаимодействиями для обучения технологии. Компания заявила, что пользователи могут управлять своими данными через настройки устройства и удалять записи в любое время.
Ни ICO, ни Meta* не ответили на вопросы The Register.
Этот отчет — еще одно напоминание о том, что «на базе ИИ» часто по-прежнему означает присутствие человека в цикле — иногда наблюдающего больше, чем ожидали пользователи. ®
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Carly Page