Найти в Дзене
IT Vibe

​​Иногда ИИ учится на видео, которые люди не хотели бы показывать никому

Что происходит с данными, которые собирают устройства вокруг нас. По словам сотрудников, участвующих в разметке данных для обучения ИИ, через их руки проходит огромное количество пользовательских видео — включая кадры, которые люди вряд ли хотели бы показывать посторонним. Речь идёт о роликах, снятых очками в повседневной жизни. В них могут попадать моменты из дома, переодевания, сцены из ванной комнаты или даже случайно зафиксированные банковские данные. Такие материалы оказываются на экранах модераторов, которые описывают объекты на видео и помогают обучать алгоритмы распознавания. Формально компания заявляет, что данные обрабатываются безопасно: лица автоматически размываются, а доступ используется только для улучшения моделей компьютерного зрения. Однако сами работники говорят, что на практике они нередко видят вполне узнаваемые и личные фрагменты жизни пользователей. За автоматическими алгоритмами часто стоит армия модераторов и разметчиков данных — людей, которые вручную описы

​​Иногда ИИ учится на видео, которые люди не хотели бы показывать никому

Что происходит с данными, которые собирают устройства вокруг нас. По словам сотрудников, участвующих в разметке данных для обучения ИИ, через их руки проходит огромное количество пользовательских видео — включая кадры, которые люди вряд ли хотели бы показывать посторонним.

Речь идёт о роликах, снятых очками в повседневной жизни. В них могут попадать моменты из дома, переодевания, сцены из ванной комнаты или даже случайно зафиксированные банковские данные. Такие материалы оказываются на экранах модераторов, которые описывают объекты на видео и помогают обучать алгоритмы распознавания.

Формально компания заявляет, что данные обрабатываются безопасно: лица автоматически размываются, а доступ используется только для улучшения моделей компьютерного зрения. Однако сами работники говорят, что на практике они нередко видят вполне узнаваемые и личные фрагменты жизни пользователей.

За автоматическими алгоритмами часто стоит армия модераторов и разметчиков данных — людей, которые вручную описывают кадры, отмечают объекты и обучают нейросети понимать окружающий мир.

Эксперты по защите данных считают проблему системной. Большинство пользователей не до конца осознаёт, что записи с носимых устройств могут использоваться для обучения ИИ, а значит потенциально просматриваться людьми, участвующими в обработке данных.

Чем больше данных нужно для обучения ИИ, тем выше риск утечки личной жизни пользователей.

#ИИ #Privacy #Meta #Wearables

🔳 IT Vibe News