История о том, как с помощью искусственного интеллекта подставили вице-президента США Джея Ди Ванса, стала известна в разных странах. Она напоминает о важности сохранять бдительность и помнить о возможностях ИИ.
В разных социальных сетях был опубликован фрагмент речи, в которой нелестно отзываются о миллиардере и работнике администрации президента США, имеющего статус специального государственного служащего. В частности, говорилось, что Макс — человек, играющий роль великого лидера, который ставит в неловкое положение администрацию. Со стороны казалось, знаменитость осуждает Джей Ди Ванс. В TikTok* видео набрало 2 миллиона просмотров и 8 тысяч комментариев.
Представители политика заверили, что опубликованная запись на 100% фейковая, а вице-президент США не имеет к нему никакого отношения. После этого исходный пост с аудиозаписью был удален. Аудиофайл был тщательно проверен экспертами, которые заключили, что голос Ванса был подделан с помощью искусственного интеллекта. Чтобы речь выглядела более убедительно, злоумышленники добавили фоновый шум и реверберацию.
Инцидент указывает на прогресс генеративного ИИ. Проблема в том, что эти возможности были использованы в негативном ключе. Это не первый случай, когда в TikTok* публиковали синтетические аудио известных личностей. Раньше мошенники подделывали голос Дональда Трампа, чтобы продвигать финансовые аферы, что является нарушением законодательства.
*социальная сеть работает с ограничениями в РФ с марта 2022 года.