Один из разработчиков рассказал The Guardian, что Siri иногда записывает аудио после ошибочных активаций. Активирующая фраза «эй, Siri», по словам анонимного источника, — не единственное, что может разбудить Siri. Она также может активироваться от похожих по звучанию слов или от звука расстегивания молнии. А ещё — при активации Apple Watch жестом или речью.
Было бесчисленное множество записей о частных беседах врачей и пациентов, коммерческих сделках, криминальных делишках, сексуальных контактах и так далее.
Эти записи сопровождаются пользовательскими данными, показывающими местоположение, контактные данные и данные приложения.
Apple заявила, что предпринимает шаги, чтобы защитить данные пользователей от связи с записями Siri, отправленными разработчикам. Якобы такие аудио не связаны с Apple ID, и разработчиками проверяется менее 1% ежедневных активаций Siri. Также в компании есть NDA для таких работников. Apple, наряду с Google и Amazon, имеют схожие политики для разработчиков, нанимаемых для проверки этих фрагментов записей голосовых помощников. Но все три создателя голосового ИИ уже подвергались аналогичным нарушениям конфиденциальности: либо в прессу просачивалась инсайдерская информация, либо возникали ошибки, дающие пользователям доступ к «не тем» аудиофайлам.
Кроме того, все технологические компании уже имели прецеденты, когда недовольные пользователи обращались к ним с запросами. Amazon недавно изложил свою политику хранения и просмотра записей в ответ на запросы сенатора Криса Кунса. В сообщении о нарушениях от подрядчика Google говорится, что работники слышали разговоры между родителями и детьми, личную информацию и, по крайней мере, один возможный случай сексуального насилия.
Это рождает всё больше вопросов: должны ли пользователи получать уведомления при просмотре своих записей, как устранить случайные активации, что делать компаниям со случайно просочившейся личной информацией и кто будет нести за всё это ответственность?