Федеральная торговая комиссия США (FTC) начала прием заявок на участие в конкурсе Voice Cloning Challenge - публичном соревновании с главным призом в 25 000 долларов за идеи, которые защитят потребителей от опасности клонирования голоса с помощью искусственного интеллекта для мошеннических действий.
Конкурс был объявлен в середине ноября в попытке найти способы борьбы с неправомерным использованием технологии клонирования голоса по мере того, как она становится все более изощренной благодаря совершенствованию преобразования текста в речь с помощью искусственного интеллекта.
Искусственный интеллект может быть использован для клонирования чьего-либо голоса путем анализа аудиоклипа, на котором говорит человек, для извлечения уникальных вокальных характеристик и последующего использования обучающих данных для генерации новой речи.
Хотя клонирование голоса имеет законное применение, например, в персонализированных сервисах преобразования текста в речь и вспомогательных инструментах для людей с ограниченными возможностями, субъекты угроз могут также использовать его для мошеннических действий, таких как голосовой фишинг, социальная инженерия и другие виды мошенничества с использованием голоса.
Выдавая себя за знакомого человека, например члена семьи или знаменитость, злоумышленники могут легко обмануть людей, заставив их поверить в утверждения, содержащиеся в звонке или голосовом сообщении.
"[Технология клонирования голоса] представляет собой значительный риск: семьи и малые предприятия могут стать жертвами мошеннических афер с вымогательством; творческие профессионалы, такие как артисты озвучивания, могут присвоить себе голос, угрожая их средствам к существованию и обманывая общественность." - Федеральная торговая комиссия
В рамках проекта Voice Cloning Challenge FTC стремится найти решение, которое позволит выявлять случаи клонирования голоса с помощью генеративного ИИ. Агентство называет это "исследовательской задачей", которая потенциально может определить направление усилий по снижению рисков.
Победившее предложение получит 25 000 долларов, а занявшее второе место - 4 000 долларов. Предусмотрено до трех почетных номинаций, каждая из которых получит 2 000 долларов.
2 января агентство начало принимать заявки через этот портал и будет принимать идеи в течение 10 дней, до 12 января, 08:00 вечера по восточному времени.
Заявки должны содержать обзор предложения на одной странице и подробное описание объемом до 10 страниц. Участники также могут приложить видеоролик, демонстрирующий, как работает их идея.
Все заявки будут оцениваться с учетом их практической реализуемости, влияния на подотчетность компаний и нагрузку на потребителей, а также устойчивости к быстрому технологическому прогрессу в данной области.
Если в ходе конкурса не будет найдено ни одной эффективной идеи защиты, FTC отмечает, что эта попытка послужит ранним предупреждением для политиков и подчеркнет необходимость более жесткого регулирования использования технологий искусственного интеллекта.