Работники Tesla делились конфиденциальными изображениями, записанными автомобилями клиентов
- Записи с частных камер, снятые автомобилями, распространялись в чатах: бывшие работники
- Среди распространенных роликов был один, на котором ребенок сбит машиной: бывшие сотрудники
- Tesla заявляет, что записи, сделанные камерами автомобилей, "остаются анонимными".
- На одном из видео был запечатлен подводный аппарат из фильма о Джеймсе Бонде, принадлежащий Элону Маску
Tesla Inc заверяет миллионы владельцев своих электромобилей, что их конфиденциальность "была и всегда будет чрезвычайно важна для нас". Камеры, которые она встраивает в автомобили для помощи в управлении, отмечает компания на своем сайте, "разработаны с нуля для защиты вашей частной жизни".
Но в период с 2019 по 2022 год группы сотрудников Tesla в частном порядке делились через внутреннюю систему обмена сообщениями иногда весьма инвазивными видеороликами и изображениями, записанными камерами автомобилей клиентов, согласно интервью, взятым Reuters у девяти бывших сотрудников.
Некоторые из этих записей застали клиентов Tesla в неловких ситуациях. Один из бывших сотрудников рассказал о видео, на котором мужчина подходит к автомобилю полностью обнаженным.
Также в общий доступ попали аварии и инциденты на дорогах. По словам другого бывшего сотрудника, на одном из видео ДТП 2021 года видно, как Tesla, двигаясь на высокой скорости в жилом районе, сбивает ребенка, ехавшего на велосипеде. Ребенок полетел в одну сторону, а велосипед - в другую. Видео распространилось по офису Tesla в Сан-Матео, Калифорния, через частные чаты один на один, "как лесной пожар", сказал бывший сотрудник.
Другие изображения были более обыденными, например, фотографии собак и забавных дорожных знаков, которые сотрудники превращали в мемы, украшая их забавными подписями или комментариями, а затем размещали их в частных групповых чатах. В то время как некоторые сообщения были доступны только двум сотрудникам, другие могли видеть десятки сотрудников, по словам нескольких бывших работников.
Tesla утверждает в своем онлайн "Уведомлении о конфиденциальности клиентов", что "записи с камер остаются анонимными и не связаны с вами или вашим автомобилем". Но семь бывших сотрудников рассказали Reuters, что компьютерная программа, которую они использовали на работе, могла показывать местоположение записей - что потенциально могло раскрыть место проживания владельца Tesla.
Один из бывших сотрудников также сказал, что некоторые записи были сделаны, когда автомобили были припаркованы и выключены. Несколько лет назад компания Tesla получала видеозаписи со своих автомобилей даже в выключенном состоянии, если владельцы давали на это согласие. С тех пор она перестала это делать.
"Мы могли заглядывать в гаражи людей и их частные владения", - говорит другой бывший сотрудник. "Допустим, у клиента Tesla в гараже было что-то отличительное, и люди могли бы публиковать такие сообщения".
Tesla не ответила на подробные вопросы, направленные в компанию для этого отчета.
Около трех лет назад некоторые сотрудники наткнулись на видео уникального подводного аппарата, припаркованного в гараже, и поделились им, по словам двух человек, просмотревших это видео. Прозванный "Мокрая Нелли", белый подводный аппарат Lotus Esprit был показан в фильме о Джеймсе Бонде 1977 года "Шпион, который меня любил".
Владелец автомобиля - глава компании Tesla Элон Маск, который купил его за 968 000 долларов на аукционе в 2013 году. Неясно, знал ли Маск о видео или о том, что оно было выложено в общий доступ.
Подводный аппарат Lotus по прозвищу "Мокрая Нелли", который снимался в фильме о Джеймсе Бонде 1977 года "Шпион, который меня любил" и который глава компании Tesla Элон Маск приобрел в 2013 году.
Подводный аппарат Lotus по прозвищу "Мокрая Нелли", который снимался в фильме Джеймса Бонда "Шпион, который меня любил" 1977 года и который глава компании Tesla Элон Маск приобрел в 2013 году.
Маск не ответил на просьбу о комментарии.
Чтобы написать эту статью, агентство Reuters связалось с более чем 300 бывшими сотрудниками Tesla, которые работали в компании в течение последних девяти лет и принимали участие в разработке системы автономного вождения. Более десятка согласились ответить на вопросы, но все они говорили на условиях анонимности.
Reuters не удалось получить ни одного из общих видео или изображений, которые, по словам бывших сотрудников, они не сохранили. Информационное агентство также не смогло выяснить, продолжается ли практика обмена записями, которая имела место в некоторых подразделениях Tesla еще в прошлом году, сегодня и насколько широко она распространена. Некоторые бывшие сотрудники, с которыми удалось связаться, сказали, что единственное, что они наблюдали, это обмен записями в законных рабочих целях, например, для получения помощи от коллег или начальства.
Примерно с 2016 года компания Tesla наняла сотни людей в Африке, а затем и в США для маркировки изображений, чтобы помочь своим автомобилям научиться распознавать пешеходов, уличные знаки, строительную технику, гаражные ворота и другие объекты, встречающиеся на дороге или в домах клиентов. Для этого специалистам по маркировке данных предоставлялся доступ к тысячам видеороликов или изображений, записанных автомобильными камерами, которые они просматривали и идентифицировали объекты.
Компания Tesla все больше автоматизирует этот процесс и в прошлом году закрыла центр маркировки данных в Сан-Матео, Калифорния. Но она продолжает нанимать сотни специалистов по маркировке данных в Буффало, штат Нью-Йорк. В феврале Tesla заявила, что за предыдущие шесть месяцев штат сотрудников там вырос на 54% и достиг 675 человек.
Два бывших сотрудника заявили, что их не беспокоит обмен изображениями, сказав, что клиенты дали свое согласие или что люди уже давно отказались от разумных надежд на сохранение личных данных в тайне. Однако трое других сказали, что их это беспокоит.
"Честно говоря, это было нарушением неприкосновенности частной жизни. И я всегда шутил, что никогда не куплю автомобиль Tesla после того, как увидел, как они обращаются с некоторыми из этих людей", - сказал один бывший сотрудник.
Другой сказал: "Меня это беспокоит, потому что люди, которые покупают машину, я думаю, не знают, что их частная жизнь не уважается... Мы могли видеть, как они стирают белье и действительно интимные вещи. Мы можем видеть их детей".
Один из бывших сотрудников не видит ничего плохого в обмене изображениями, но описывает функцию, позволяющую владельцам данных просматривать местоположение записей на картах Google, как "массовое вторжение в частную жизнь".
Дэвид Чоффнес, исполнительный директор Института кибербезопасности и конфиденциальности при Северо-восточном университете в Бостоне, назвал обмен конфиденциальными видео и изображениями сотрудниками Tesla "морально предосудительным".
"Любой нормальный человек был бы потрясен этим", - сказал он. Он отметил, что распространение конфиденциальных и личных материалов может быть истолковано как нарушение политики конфиденциальности компании Tesla, что может привести к вмешательству Федеральной торговой комиссии США, которая обеспечивает соблюдение федеральных законов, касающихся конфиденциальности потребителей.
Для разработки технологии самоуправляемых автомобилей Tesla собирает огромное количество данных из своего глобального парка, насчитывающего несколько миллионов автомобилей. Компания требует, чтобы владельцы автомобилей давали разрешение на сенсорных экранах машин, прежде чем Tesla будет собирать данные об их автомобилях. "Ваши данные принадлежат вам", - говорится на сайте Tesla.
В своем Уведомлении о конфиденциальности клиентов Tesla объясняет, что если клиент соглашается на обмен данными, "ваш автомобиль может собирать данные и предоставлять их Tesla для анализа. Этот анализ помогает Tesla улучшить свои продукты, функции и быстрее диагностировать проблемы". Там также говорится, что данные могут включать "короткие видеоклипы или изображения", но они не связаны с учетной записью клиента или идентификационным номером автомобиля, "и не идентифицируют вас лично".
Карло Пильтц, юрист по вопросам конфиденциальности данных в Германии, сказал Reuters, что будет трудно найти юридическое обоснование в соответствии с европейским законом о защите данных и конфиденциальности для распространения записей с автомобиля внутри компании, если это "не имеет ничего общего с обеспечением надежности или безопасности автомобиля или функциональности" системы автономного вождения Tesla.
В последние годы система автомобильных камер Tesla вызвала споры. В Китае некоторые правительственные комплексы и жилые кварталы запретили эксплуатацию автомобилей Tesla из-за опасений по поводу их камер. В ответ на это Маск заявил в виртуальном выступлении на китайском форуме в 2021 году: "Если Tesla использует автомобили для шпионажа в Китае или где-либо еще, нас закроют".
В других странах регулирующие органы тщательно изучают систему Tesla на предмет возможных нарушений конфиденциальности. Но дела о защите частной жизни, как правило, касаются не прав владельцев Tesla, а прав прохожих, не знающих, что их могут записывать припаркованные автомобили Tesla.
В феврале голландское Управление по защите данных (DPA) заявило, что завершило расследование в отношении компании Tesla по поводу возможных нарушений неприкосновенности частной жизни, связанных с "режимом Sentry Mode", функцией, предназначенной для записи любых подозрительных действий во время стоянки автомобиля и оповещения владельца.
"Люди, которые проходили мимо этих автомобилей, были сняты на камеру, сами того не зная. А владельцы Teslas могли вернуться и посмотреть на эти изображения", - сказала в своем заявлении член правления DPA Катя Мюр. "Если человек припарковал один из этих автомобилей перед чьим-то окном, он мог заглянуть внутрь и увидеть все, что делает другой человек. Это серьезное нарушение неприкосновенности частной жизни".
Наблюдательный орган решил, что юридическую ответственность за записи, сделанные их автомобилями, несет не Tesla, а их владельцы. По словам представителей DPA, они решили не штрафовать компанию после того, как Tesla заявила, что внесла ряд изменений в режим Sentry Mode, включая импульс фар автомобиля, чтобы информировать прохожих о том, что их могут записывать.
Представитель DPA отказался комментировать выводы Reuters, но сказал в электронном письме: "Персональные данные должны использоваться с определенной целью, а чувствительные персональные данные должны быть защищены".
Tesla называет свою систему автоматизированного вождения Autopilot. Представленная в 2015 году, эта система включает такие передовые функции, как возможность смены полосы движения при нажатии на сигнал поворота и параллельная парковка по команде. Чтобы система работала, Tesla первоначально установила сонарные датчики, радар и одну камеру на лобовом стекле. В последующей версии, представленной в 2016 году, было установлено восемь камер по всему периметру автомобиля для сбора большего количества данных и расширения возможностей.
В будущем Маск планирует создать режим "полного самодвижения", который заменит водителя-человека. Tesla начала внедрять экспериментальную версию этого режима в октябре 2020 года. Хотя он требует от водителя держать руки на руле, в настоящее время он предлагает такие функции, как возможность автоматически замедлять автомобиль при приближении к знакам остановки или светофорам.
Эта выдержка из руководства по эксплуатации Tesla Model X объясняет систему автопилота автомобиля, включая камеры, которые записывают видео об окружающей обстановке. Агентство Reuters обнаружило, что сотрудники Tesla делились роликами, на которых запечатлены деликатные и неловкие моменты личной жизни.
В феврале Tesla отозвала более 362 000 американских автомобилей для обновления программного обеспечения системы полного автономного вождения после того, как Национальная администрация безопасности дорожного движения США заявила, что она может позволить автомобилям превышать скорость и потенциально вызывать аварии на перекрестках.
Как и во многих проектах с искусственным интеллектом, для разработки Autopilot компания Tesla наняла специалистов по маркировке данных для идентификации объектов на изображениях и видео, чтобы научить систему, как реагировать, когда автомобиль находится на дороге или на стоянке.
Изначально Tesla поручила маркировку данных некоммерческой организации из Сан-Франциско, известной как Samasource, рассказали Reuters люди, знакомые с вопросом. Эта организация имела офис в Найроби, Кения, и специализировалась на предоставлении возможностей для обучения и трудоустройства женщин и молодежи, находящихся в неблагоприятном положении.
В 2016 году Samasource предоставляла Tesla около 400 работников, по сравнению с первоначальными 20, по словам человека, знакомого с вопросом.
Однако к 2019 году Tesla уже не была удовлетворена работой маркировщиков данных Samasource. На мероприятии под названием Tesla AI Day в 2021 году Андрей Карпати, тогдашний старший директор по ИИ в Tesla, сказал: "К сожалению, мы очень быстро обнаружили, что работа с третьей стороной для получения наборов данных для чего-то настолько важного просто не подходит... Честно говоря, качество не было потрясающим".
Бывший сотрудник Tesla сказал о маркировщиках Samasource: "Они выделяли гидранты как пешеходов... Они постоянно пропускали объекты. Уровень их умения рисовать коробки был очень низким".
Компания Samasource, которая теперь называется Sama, отказалась комментировать свою работу для Tesla.
Компания Tesla решила вывести маркировку данных на внутренний рынок. "Со временем мы выросли до более чем 1000 человек (организация по маркировке данных), в которой работают профессиональные маркировщики, очень тесно сотрудничающие с инженерами", - сказал Карпати в своей презентации в августе 2021 года.
Карпати не ответил на просьбу о комментарии.
Собственные специалисты Tesla по маркировке данных изначально работали в районе залива Сан-Франциско, включая офис в Сан-Матео. По словам бывших сотрудников, группам маркировщиков данных поручались самые разные задачи, включая маркировку полос движения на улицах или аварийных автомобилей.
В какой-то момент Teslas на автопилоте испытывали трудности с выездом из гаражей и путались при столкновении с тенями или такими предметами, как садовые шланги. Поэтому некоторых специалистов по маркировке данных попросили идентифицировать объекты на видео, снятых в гаражах. В итоге проблема была решена.
В интервью два бывших сотрудника рассказали, что при выполнении своих обычных рабочих обязанностей их иногда просили просмотреть изображения клиентов в их домах и вокруг них, в том числе внутри гаражей.
"Иногда я задавался вопросом, знают ли эти люди, что мы это видим", - сказал один из них.
"Иногда я видела скандальные вещи, например, я видела интимные сцены, но не наготу", - сказала другая. "И там было определенно много такого, что я бы не хотел, чтобы кто-то видел о моей жизни".
В качестве примера этот человек вспомнил, что видел "постыдные предметы", такие как "некоторые части белья, некоторые предметы сексуального благополучия... и просто частные сцены жизни, к которым мы действительно были причастны, потому что машина была заряжена".
В офисе Tesla в Сан-Матео работали в основном молодые сотрудники в возрасте от 20 до 30 лет, которые принесли с собой культуру, в которой ценились развлекательные мемы и вирусный контент в Интернете. Бывшие сотрудники описывали свободную атмосферу в чатах, где работники обменивались шутками по поводу изображений, которые они просматривали во время маркировки.
По словам нескольких бывших сотрудников, некоторые маркировщики делились скриншотами, иногда отредактированными с помощью Adobe Photoshop, в частных групповых чатах на Mattermost, внутренней системе обмена сообщениями Tesla. Там они получали ответы от других работников и менеджеров. Участники также добавляли свои собственные изображения с пометками, шутки или эмодзи, чтобы поддержать разговор. По словам нескольких бывших сотрудников, некоторые из эмодзи были созданы на заказ, чтобы ссылаться на внутренние шутки в офисе.
Один из бывших сотрудников описал обмен изображениями как способ "разбавить монотонность". Другой рассказал, что обмен изображениями вызывал восхищение коллег.
"Если ты видел что-то классное, что вызвало бы реакцию, ты размещал это, правильно, а потом позже, в перерыве, люди подходили к тебе и говорили: "О, я видел, что ты разместил. Это было забавно", - говорит этот бывший лейблер. "Люди, которых повышали до руководящих должностей, делились многими из этих смешных материалов и приобретали известность благодаря тому, что были смешными".
Некоторые из размещенных материалов напоминали мемы в Интернете. Там были собаки, интересные автомобили и ролики, в которых люди, запечатленные камерами Tesla, спотыкались и падали. Было и тревожное содержание, например, человека затаскивали в машину, казалось, против его воли, сказал один бывший сотрудник.
По словам нескольких бывших сотрудников, видеоклипы аварий с участием автомобилей Tesla также иногда выкладывались в частных чатах на Mattermost. Среди них были примеры плохого вождения или столкновения с людьми, сбитыми на велосипеде - например, с ребенком - или мотоцикле. Некоторые специалисты по маркировке данных перематывали такие ролики и воспроизводили их в замедленном режиме.
Иногда руководители Tesla пресекали неуместный обмен изображениями на публичных каналах Mattermost, поскольку они утверждали, что такая практика нарушает политику компании. Тем не менее, по словам нескольких бывших сотрудников, скриншоты и основанные на них мемы продолжали распространяться в частных чатах на платформе. Работники делились ими один на один или в небольших группах еще в середине прошлого года.
По словам двух бывших сотрудников, одним из преимуществ работы на Tesla в качестве маркировщика данных в Сан-Матео был шанс выиграть приз - использование служебного автомобиля на день или два.
Но некоторые из счастливчиков становились параноиками, садясь за руль электромобилей.
"Зная, сколько данных способны собирать эти автомобили, они определенно заставляли людей нервничать", - сказал один из бывших сотрудников.