Мошенники могут записать образец голоса и впоследствии использовать его для озвучки звонка вашему родственнику?
Однажды в банке
Задумка о написании этой статьи родилась у меня при очередном посещении отделения синего банка, во время которого мне предложили сдать биометрю. Биометрия включает образец голоса. Ранее мне уже предлагали это сделать, но я отказалась. Отказалась я и в этот раз. Мои аргументы против данной процедуры:
- Зачем это мне? Для чего?
- Что, если мой голос окажется у мошенников, и они, используя его, совершат вредоносные для меня действия?
В ответ сотрудница банка сказала мне, что они все, сотрудники синего банка, сами биометрю сдали уже давно. И что хранится вся биометрия, вместе с голосами, не в банке, а на Госуслугах. Вот такой аргумент, друзья. Как думаете, убедил он меня?
⚠️Госуслуги для меня - это ещё хуже, чем банк. Атаки на Госуслуги совершаются теперь чаще и в большем объёме чем на интернет-банки.
❓ Так зачем же нужна биометрия?
❓ А можно я как-нибудь так, по-пещерному жить буду?
Слухи
С недавних пор стали ходить слухи о том, как мошенники начали совершать звонки сотрудникам различных организаций от имени руководителя. Сотрудники получали от, якобы, руководителя предупреждения об атаке мошенников на счета сотрудников и требовали в срочном порядке обезопасить средства на счетах сотрудников, оказавшихся под угрозой. Сообщается, что голос звонившего был один в один похож на голос руководителя. Но есть важный нюанс, друзья. Эти звонки совершались в Телеграм. То есть не по мобильной связи через оператора, а посредством интернета, по мессенджеру.
Был создан профиль руководителя, где в качестве аватарки была использована его фотография. Номер телефона, привязанный к аккаунту в Телеграм, если не ошибаюсь, был другой, а не тот, что у руководителя на самом деле. Но здесь я не уверена, потому что пересказываю чужую историю. Выступаю в качестве сломанного телефона. То есть информацию частично могу исказить. Главное, друзья, суть по пути не расплескать, как воду в решете.
Видеозвонок с подменой лица и голоса
Описывали ещё и случаи видеозвонка, когда не только слышали голос руководителя, но и видели его говорящую голову. А это был не он. Сказки и небылицы? Но бывает ли дым без огня? Решила я копнуть в тему и выкопанным поделиться с вами. Итак, погнали. Для начала, краткий экскурс в тему Искусственного Интеллекта, работающего с голосом.
Он клонирует голоса
Всего 15 секунд голоса, и он сможет озвучить им любой текст. Нашумевший OpenAI. В переводе с английского - "открытый Искусственный Интеллект".
Клонирование голоса - это когда компьютерная программа используется для создания синтетической адаптируемой копии голоса человека.
❗Обратите внимание на слово адаптируемой.
Новая разработка
В конце 2022-го года была разработана технология, способная генерировать эмоциональные и реалистичные голоса даже при использовании небольшой модели и ограниченного объёма исходных аудиоданных. Модель, которая предназначена, чтобы генерировать естественную человеческую речь, точно имитирует голос собеседника, используя только текстовый ввод и один образец голоса продолжительностью в 15 секунд. Эту модель назвали языковым движком, в оригинале - Voice Engine.
При помощи данной модели создавали предустановленные голоса в API преобразования текста в речь, ChatGPT Voice и функции чтения вслух. Это подтверждает и доказывает её универсальность и эффективность в создании реалистичной человеческой речи из любого текста.
Предназначение технологии клонирования голоса
Из всех возможных можно выделить три наилучших варианта применения голосового движка.
- Перевод контента. Например, Voice Engine может переводить видео и подкасты. Данная разработка позволяет компаниям и авторам переводить и озвучивать контент на несколько языков, сохраняя при этом голос и акцент диктора в оригинале видео.
- Поддержка глухонемых людей. Голосовой движок наделяет таких люлей уникальными голосами, которые звучат естественно и не напоминают роботов.
- Помощь пациентам в восстановлении голоса. Врачи могут воссоздать голос пациента, который лишился его по причине болезни или травмы, используя небольшой образец аудиозаписи.
Благими намерениями - дорожка для мошенников
Вы уже догадались, какие угрозы несёт людям эта технология? И организациям, и физическим лицам, и обществу в целом. Приведу перечень основных рисков и угроз, которые таятся за этой инновационной технологией.
- Возможность мошенничества и афёр. Преступники могут клонировать голоса людей, чтобы обманывать других с целью получения финансовой выгоды. Например, мошенники могут выдавать себя за родственников, представителей власти или деловых партнеров, чтобы обманом заставить жертву перевести деньги или раскрыть конфиденциальную информацию.
- Распространение дезинформации и поддельного контента. Это оружие может быть использовано для создания поддельных аудиозаписей, в которых общественные деятели говорят то, чего они на самом деле не говорили. Сгенерированные голосовые аудиозаписи могут использоваться для распространения фальшивых новостей, пропаганды, теорий заговора и мистификаций в беспрецедентных масштабах.
- Нарушение конфиденциальности и согласия. Создать фальшивый аудиоконтент любого человека без его ведома или согласия очень просто, если есть образец его голоса. Это открывает возможности для создания поддельных частных разговоров и других неприятных вторжений в частную жизнь. Даже если не распространять информацию публично, клонирование голоса без согласия человека является нарушением.
- Актёры озвучивания могут остаться без работы. Клонирование голоса позволит режиссёрам и авторам получить именно тот голос и на том языке, который они хотят для своих героев. По сути, это замена актёров озвучивания и кража их образов.
- Сложности в судебных разбирательствах и журналистике. По мере того, как клонирование голоса становится всё более доступным и реалистичным, данная технология может подорвать доверие к аудиозаписям как к надёжным доказательствам. Поддельные голосовые сообщения, записи интервью или встреч могут быть использованы в качестве фальшивых улик.
Наша реальность. Россия.
При прочтении статей о технологии OpenAI может сложиться впечатление, будто эта технология дорогостоящая и недоступна для использования в нашей стране. В официальных источниках говорится о том, что данную технологию, ввиду всех сопряжённых с ней рисков, выпускать в мир не собираются. Но что мы имеем сегодня? И не где-то в США, а у нас в России. Не слухи, а услуги.
Легко найти и дёшево купить
Набрав в поисковой строке Яндекс буквально следующее: "Сколько стоит технология подмены голоса", я нашла не только общую информацию, но и объявление исполнителя и расценку за одну минуту голосового сообщения, сделанного с использованием образца голоса.
Использование образца голоса для озвучки нужного текста
Данная услуга называется созданием DeepFake голоса. В переводе с английского DeepFake - "глубокая фальшивка", то есть качественная такая фальшивка.
Объявление о данной услуге на kwork.ru:
Здесь мы видим, что для выполнения заказа требуется аудио-образец голоса продолжительностью 10 минут. Хорошо, хоть не 15 секунд! Уже легче, друзья! Также, из данного объявления мы узнаём, что подделать интонацию человека исполнитель не может. Только имитировать голос. А это значит, что интонация выдаст искусственное происхождение озвучки. То есть текст, озвученный таким дип-фэйком, от речи живого человека отличить можно. Если только в десятиминутном образце не собрана вся богатая интонационная гамма виновника торжества. Вот, читайте сами:
Кстати, к объявлению прикреплены образцы работ данного специалиста. В одной из них более-менее реалистично звучит текст голосом Армена Джигарханяна. Вероятно, потому что голос колоритный.
Чего опасаться и чего не делать?
Наверное, следующее:
- больше не водить милые беседы с мошенниками в попытке как можно дольше задержать их на проводе, с целью спасти другую потенциальную жертву
- не участвовать в опросах по телефону
- не рассказывать, почему мы отказываемся от предлагаемой нам по телефону бесплатной косметологической процедуры или медицинского обследования
Итого: свести разговоры в ответ на звонки, которые мы не ждём, к нулю. Ограничиться, максимум, тем, чтобы выяснить, кто и зачем нам звонит. И прервать разговор.❗Это для тех, кто по тем или иным причинам может ожидать звонки с незнакомых номеров.
Несколько фактов о голосовом движке OpenAI
✅Используя запись чьей-либо речи, данная программа может воспроизвести голос этого человека, произнося любые слова или предложения, введённые на клавиатуре.
✅Последние достижения в данной технологии таковы, что компьютерный звук теперь стал невероятно точным. Программа может улавливать не только акцент отдельно взятого человека, но и его тембр, высоту звука, темп, ход речи и даже дыхание.
✅Клонированный голос можно настроить для отображения любых требуемых эмоций, таких как гнев, страх, счастье, любовь или скука.
✅Технология, которой руководит искусственный интеллект, то есть программное обеспечение, которое может «учиться» и адаптироваться само по себе, за последние годы значительно продвинулась вперёд.
Новость о данной технологии привлекла внимание исполнителей озвучивания, поскольку клонирование голоса может использоваться для перевода слов актёра на разные языки. Это означает, что американским кинопроизводственным компаниям больше не понадобится нанимать дополнительных актёров для создания дублированных версий своих фильмов для распространения за рубежом.
Так, канадская компания Resemble AI заявляет, что теперь она может преобразовывать клонированные английские голоса в 15 других языков. Её генеральный директор Зохайб Ахмед говорит, что для создания качественной копии чьего-то голоса программе требуется запись чьей-либо речи продолжительностью всего 10 минут. (❗Прямо как тому исполнителю в объявлении на kworks.ru)
«Когда ИИ изучает ваш голос, он узнаёт многие его свойства... Такие, как тембр, высота и интенсивность», - говорит он.
Вот что говорит о рисках и угрозах в области применения данной технологии эксперт по кибербезопасности Эдди Бобрицки:
«Что касается электронной почты или текстовых сообщений, уже много лет известно, что выдать себя за других довольно легко. Но разговор по телефону с кем-то, кому ты доверяешь и хорошо знаешь, до сих пор был одним из наиболее распространенных способов убедиться, что ты действительно знаком с этим человеком».
Господин Бобрицки говорит, что сейчас ситуация меняется.
«Например, если начальник звонит сотруднику с просьбой предоставить конфиденциальную информацию, и сотрудник узнаёт его голос, мгновенная реакция - сделать то, о чем его попросили. Это путь к множеству киберпреступлений».
Сколько стоит ваш голос?
Кому придётся раскошелиться, если его украдут?
Столько, сколько денег на счетах у ваших близких, и сколько банк готов дать им в кредит... И сколько они готовы взять в долг, чтобы спасти вас от несуществующей опасности. Вам же в "копеечку" может обойтись кража голоса кого-то из ваших родных и близких.
Вместо заключения
Я не могу с уверенностью утверждать, что в России доступен именно этот голосовой движок OpenAI. Возможно, у нас применяется другой ИИ, другая технология, похожая, но слабее той, что разработали в США. Однако, сдавать свой образец голоса я желанием не горю.
❗Друзья, если статья была полезна, делитесь с друзьями и знакомыми. Делайте репост и давайте на неё ссылку. Также, развитию канала помогают ваши лайки и комментарии.
Другие статьи по теме мошенничества в этой рубрике. Просто нажмите на текст синего цвета.
Поддержать автора: по номеру карты 4276 5400 3859 6072