Робот-пылесос iRobot Roomba сделал интимные фотографии женщины в туалете и маленького ребенка, которые затем были опубликованы в Facebook.
Согласно отчету MIT Technology Review в понедельник, конфиденциальные фотографии были сделаны разрабатываемыми версиями роботов-пылесосов iRobot серии Roomba J7 в 2020 году.
Затем изображения были отправлены в Scale AI, стартап, который нанимает рабочих по всему миру для маркировки аудио-, фото- и видеоданных, используемых для обучения искусственного интеллекта (ИИ).
Оттуда фотографии, как сообщается, были опубликованы в частных группах на Facebook и в приложении для чата Discord ИТ-специалистами из Венесуэлы.
MIT Technology Review получил 15 скриншотов этих частных фотографий, которые были размещены в закрытых группах в социальных сетях.
На одном компрометирующем снимке молодая женщина в бледно-лиловой футболке сидит на унитазе, ее шорты спущены до середины бедра. Лицо женщины заблокировано на основном изображении, но его не видно на прокрутке снимков под ним.
На другом изображении мальчик восьми-девяти лет, лицо которого видно, лежит на животе напротив бытовой техники на полу в коридоре.
На других фотографиях показаны комнаты из домов людей по всему миру. Мебель, декор и предметы сопровождаются ярлыками типа «телевизор» или «растение_или_цветок».
Представитель производителя Roomba iRobot, которого Amazon находится в процессе приобретения, подтвердил, что изображения были сняты его устройствами.
Компания говорит, что 15 фотографий, которые оказались в социальных сетях, были среди примерно двух миллионов изображений, которыми поделились с Scale AI.
Однако представитель iRobot добавил, что снимки были сделаны «роботами специальной разработки с аппаратными и программными модификациями, которых нет и никогда не было в потребительских товарах iRobot для покупки».
Представитель добавил, что устройства были переданы «платным сборщикам и сотрудникам», которые подписали письменные соглашения, подтверждающие, что любые данные, собранные iRobot, включая видео, могут быть отправлены обратно в компанию для целей обучения.
Компания говорит, что специальные тестовые устройства были помечены наклейкой, которая ясно давала понять, что идет запись видео, и что она посоветовала испытуемым «убрать все, что они сочтут чувствительным, из любого пространства, в котором работает робот, включая детей».
iRobot отказался позволить MIT Technology Review ознакомиться с соглашениями о согласии и не предоставил ни одному из своих оплачиваемых сборщиков или сотрудников возможность обсудить их понимание условий.
iRobot и Scale AI признают, что публикация изображений в социальных сетях нарушила их соглашения. Scale AI также говорит, что контрактные работники, которые делились фотографиями, также нарушали свои собственные соглашения.
iRobot утверждает, что изображения поступали с его устройств в таких странах, как Франция, Германия, Испания, США и Япония.
ИТ-специалисты обсуждали изображения в Facebook, Discord и других онлайн-группах, которые они создали, чтобы делиться советами по обработке платежей и маркировке сложных объектов.
Этот процесс записи и маркировки изображений используется для улучшения компьютерного зрения робота-пылесоса, что позволяет устройствам точно отображать свое окружение с помощью камер высокого разрешения и множества лазерных датчиков.
Эта технология позволяет роботу-пылесосу Roomba определять размер комнаты, избегать препятствий, таких как мебель и кабели, и корректировать режим уборки.
Инцидент выявил недостатки в системе, в которой происходит обмен огромными объемами данных между производителями техники и сторонними компаниями, помогающими улучшить их алгоритмы искусственного интеллекта.
Отчет появился в то время, когда Amazon работает над заключением соглашения о покупке iRobot на сумму 1,7 миллиарда долларов, что поднимает вопросы о том, как технологические компании используют и защищают данные, которые они собирают.
