OpenAI, всемирно известный создатель ChatGPT, разработал целый ряд других моделей ИИ в дополнение к GPT-4, которые используются во многих областях, в том числе для создания уникального контента. Один из таких инструментов — Voice Engine, который следует использовать для создания искусственных голосов. По данным OpenAI, модель использует ввод текста и один 15-секундный аудиосэмпл для создания естественно звучащей речи, которая очень похожа на исходную речь человека. Это всего лишь небольшая модель, которая может генерировать «эмоциональные и реалистичные голоса» без большого количества данных.
Изображение из открытых источников Целый ряд стартапов, таких как Synthesia, Murf AI, Play.ht или ElevenLabs, также предлагают генерацию синтетических голосов в той или иной форме. Возглавляемая Сэмом Альтманом компания, которая, как лидер рынка, конечно же, находится под пристальным вниманием, воздержалась от крупного релиза голосового движка, который уже был разработан в 2022 году. Лишь некоторым партнерам компании было разрешено использовать Voice Engine при определенных условиях.
Партнеры, которые сейчас тестируют Voice Engine, согласились с политикой использования инструмента. Запрещено выдавать себя за другое физическое или юридическое лицо без согласия или юридически оформленного разрешения.
Они также должны получить «явное и осознанное согласие первоначального говорящего», чей голос синтезируется. Кроме того, слушатели должны знать, что голоса, которые они слышат, были созданы ИИ. Специальные машинораспознаваемые звуковые водяные знаки предназначены для отслеживания аудиоданных, сгенерированных Voice Engine.
Конечно, существует множество возможностей мошенничества с использованием фальшивых голосов, таких как звонки-пранки или фейковые интервью с известными личностями. По мнению OpenAI, прежде чем сгенерированные ИИ голоса начнут использоваться более широко, голосовая аутентификация должна быть устранена как мера безопасности для доступа к банковским счетам и другой конфиденциальной информации.
В Пакистане видео с искусственным интеллектом уже использовались в избирательных кампаниях. Возможно, они помогли оппозиционной партии PTI победить на выборах. Также известно, что семейной паре в США поступили ложные звонки от родственников, которые якобы оказались в заложниках. Эти примеры показывают, что технологии искусственного интеллекта для клонирования голосов уже используются во всем мире. OpenAI может стать еще одной очень известной компанией, предоставляющей такие инструменты.