Приложение Neon, предлагающее пользователям плату за предоставление аудиозаписей звонков для обучения искусственного интеллекта, временно прекратило работу после обнаружения критической уязвимости, позволявшей посторонним получать доступ к персональным данным и записям разговоров. Основатель проекта Алекс Киам (Alex Kiam) сообщил пользователям, что сервис будет возобновлён в ближайшее время, несмотря на масштабный инцидент с безопасностью и юридические риски, связанные с записью разговоров без согласия собеседников.
Neon привлёк внимание на прошлой неделе, заняв второе место среди социальных приложений и шестое в общем рейтинге App Store, сообщает 9to5Mac со ссылкой на издание TechCrunch. Приложение обещало пользователям выплаты в размере от сотен до тысяч долларов в год за разрешение использовать их аудиоразговоры в целях тренировки ИИ-чат-ботов. Согласно описанию самого сервиса, при звонке через Neon записывается только та сторона разговора, где используется приложение; если же оба участника звонка являются пользователями Neon и хотя бы один из них инициировал вызов через приложение, записываются обе стороны. Разработчики утверждают, что их технология автоматически удаляет из транскриптов имена, номера телефонов и другие персональные данные. Однако по мнению одного из экспертов по кибербезопасности и специалиста по вопросам приватности, компания на самом деле может записывать обе стороны разговора, а затем удалять реплики собеседника из итоговой транскрипции.
Сообщается, что вскоре после запуска в приложении была выявлена серьёзная уязвимость: любой желающий мог получить доступ к телефонным номерам, аудиозаписям и текстовым транскриптам звонков любого пользователя. В ответ на это компания временно отключила сервис, оставив его доступным для скачивания в App Store. Анализ полученных TechCrunch данных также показал, что некоторые пользователи пытались манипулировать системой, чтобы увеличить размер выплат. В частности, тайно записывая реальные разговоры с людьми, ничего не знавшими о ведущейся записи.
Киам разослал пользователям письмо во вторник, в котором заверил, что начисленные выплаты сохраняются, несмотря на приостановку работы приложения. Он извинился за произошедшее и пообещал, что сервис возобновит работу в ближайшее время, однако на запрос о дополнительных комментариях не ответил.
Интересно, что юристы предупреждают о том, что пока неясно, соответствует ли работа приложения законодательству штатов США, где для аудиозаписи требуется согласие двух сторон разговора. По словам Дэвида Хоппе (David Hoppe), основателя и управляющего партнёра юридической фирмы Gamma Law, если пользователь, например, из Калифорнии записывает разговор с другим жителем Калифорнии без его ведома, он нарушает уголовный кодекс штата и может быть привлечён как к уголовной, так и к гражданской ответственности.
Читать на HDHai.com