Компания Sesame AI выпустила в открытый доступ свою модель CSM-1B, способную создавать реалистичные человеческие голоса на основе текста и аудио. Модель может клонировать голос человека всего за минуту аудиозаписи, что делает технологию доступной почти каждому.
Sesame AI стремится сделать взаимодействие человека с машиной максимально естественным, но уже появились опасения: ведь такой инструмент можно использовать и во вред — от создания фейковых голосовых сообщений до мошенничества.
Компания публикует рекомендации по этичному использованию технологии, но жестких ограничений пока нет.
В общем, у нас появился классный ИИ для голосов, но, кажется, он ещё не знает, что не стоит звонить нам голосом начальника в три ночи с просьбой перевести деньги.
А вы доверили бы свой голос такому ИИ?