Новые технологии генерации речи на основе искусственного интеллекта открывают большие возможности, но в то же время таят в себе опасности злоупотребления. С одной стороны, реалистичные голоса позволяют улучшить взаимодействие человека и машины, сделать его более естественным. С другой стороны, те же технологии дают возможность создавать убедительные подделки голосов реальных людей и использовать их во вред.
Особенно остро эта проблема проявилась в сфере телемаркетинга и политической агитации по телефону. Так называемые "робозвонки" - автоматизированные звонки с записанными сообщениями давно используются для массовых рассылок. Теперь же вместо стандартных компьютерных голосов мошенники получили возможность генерировать любые голоса, начиная от знаменитостей и заканчивая политиками. Ярким примером злоупотребления стала массовая рассылка от имени президента США Джо Байдена во время его предвыборной кампании. Более 20 000 избирателей получили звонок, в котором подделка голоса Байдена призывала демократов не участвовать в голосовании. Этот инцидент наглядно продемонстрировал опасность использования технологий генерации речи в политических целях.Чтобы пресечь подобные злоупотребления, Федеральная комиссия по связи США ввела запрет на использование синтезированных голосов в робозвонках. По словам председателя FCC Джессики Розенворсель (Jessica Rosenworcel), это даст правоохранительным органам дополнительные полномочия для привлечения мошенников к ответственности. Однако единого решения, как предотвратить неправомерное использование технологий синтеза речи, пока нет. С одной стороны, нужно развивать методы распознавания подделок. С другой стороны, необходим комплексный подход - от законодательного регулирования до повышения медиаграмотности пользователей. В любом случае, ответственность за использование мощных технологий лежит в первую очередь на самих разработчиках и их этических принципах.
Как подчеркнул актер Дуг Кокл, в конечном счете все зависит от намерений тех, кто этими технологиями пользуется, сообщает издание Pcgamer.