Председатель Федеральной комиссии связи США Джессика Розенворсель предлагает запретить использование голосов, созданных искусственным интеллектом, в робозвонках в соответствии с Законом о защите прав потребителей телефонной связи (TCPA). Он введен в 1991 году и ограничивает телемаркетинговые звонки, использование автоматических систем набора номеров и предварительно записанных голосовых сообщений. Также он требует получения письменного согласия потребителей перед совершением робозвонков. Комиссия FСC предлагает обязать и голоса, создаваемые искусственным интеллектом, соответствовать этим стандартам. Ожидается, что пять членов комиссии проголосуют по этому предложению в ближайшие недели.
"Использование искусственно созданных голосов и изображений уже вызывает путаницу, заставляя потребителей сомневаться в законности принимаемых ими звонков. Независимо от ваших предпочтений в отношении знаменитостей или политиков, а также отношений с вашими родственниками, они все могут стать целью поддельных звонков", - заявила Розенворсель.
Компания Pindrop, специализирующаяся на обнаружении голосовых мошенничеств, проанализировала фальшивое 39-секундное голосовое сообщение, где Байден призывал жителей Нью-Гэмпшира не голосовать, и обнаружила, что оно было создано с использованием технологии преобразования текста в речь от Elevenlabs. Этот стартап использует искусственный интеллект для воспроизведения голосов на многих языках.
Согласно имеющимся данным, Elevenlabs подтвердила использование своего программного обеспечения в инциденте в Нью-Гэмпшире и заблокировала соответствующую учетную запись. Генеральная прокуратура Нью-Гэмпшира уже объявила о расследовании поддельных звонков, принадлежащих Байдену. Представитель FCC заявил, что предлагаемые изменения в законодательстве дадут генеральным прокурорам штатов новые возможности для борьбы с мошенниками-робозвонками, использующими искусственный интеллект, и защитят права потребителей.
FCC продолжает бороться с робозвонками уже много лет. В декабре 2022 года он предложил наказать на 300 миллионов долларов нелегальную транснациональную операцию робозвонков, за три месяца в 2021 году совершившую более пяти миллиардов автоматических звонков на более чем 500 миллионов номеров. В 2020 году уже был наложен штраф в размере 225 миллионов долларов за обманывающие робозвонки. Кража денег у ничего не подозревающих жертв путем генерации голосов родственников стала популярной тактикой среди преступников. По мере упрощения, дешевления и роста убедительности генеративных технологий искусственного интеллекта такое преступление становится все распространеннее.
