7911 подписчиков
Microsoft анонсировала "идеальный генератор дипфейков".
Microsoft объявила о создании программного обеспечения, которое может генерировать фотореалистичные аватары и голоса или копировать существующий внешний вид и речь пользователя. Это уже вызвало опасения, что оно может ускорить создание дипфейков, созданных искусственным интеллектом.
Анонсированный на Microsoft Ignite 2023, Azure AI Speech обучается с использованием человеческих фото и позволяет пользователям задавать сценарий, который затем может быть «прочитан» вслух фотореалистичным аватаром, созданным с помощью искусственного интеллекта.
Пользователи могут либо выбрать предварительно загруженный аватар Microsoft, либо загрузить фото человека, чей голос и образ они хотят воспроизвести. Microsoft заявила в своем блоге, опубликованном в среду, что этот инструмент можно использовать для создания «разговорных агентов, виртуальных помощников, чат-ботов и многого другого».
Иными словами, Azure AI Speech на текущий момент – идеальный генератор дипфейков.
Microsoft уже ответила на критику, заявив, что настроенные аватары будут являются инструментом «ограниченного доступа», на который клиенты должны подать заявку и получить одобрение Microsoft. Пользователи также будут обязаны сообщать, когда ИИ использовался для создания синтетического голоса или аватара. Как это будет реализовано точно не ясно.
1 минута
21 ноября 2023
636 читали