C развитием технологий и ростом объема информации в нашей жизни прочно укоренился термин «фейк». Распространение ложной информации в интернет-пространстве способно навредить во многих случаях: из-за него можно попасться на уловки мошенников, потерять часть доходов и даже подвергнуться уголовному преследованию. Рассмотрим, как можно обезопасить себя и свой бизнес.
Что такое дипфейки?
Среди множества намеренно искаженной информации сегодня часто встречаются не только текстовые, но и аудио и видео-фейки. Для их создания существует ряд специальных алгоритмов, с помощью которых искусственный интеллект синтезирует изображение или голос. Нейросеть способна по пикселям собрать ролик, изучив и обработав перед этим тысячи готовых изображений и голосовых образцов. Или осуществить замену внешности в уже готовом видео. Например, лицо Арнольда Шварценеггера из фильма «Терминатор» легко может быть заменено внешностью Брюса Уиллиса. Такой сгенерированный контент называются дипфейком.
Недавно умельцы смастерили поддельного Леонардо ДиКаприо: персонаж хорошо уловил манеру и жесты знаменитого актера и теперь исполняет мемовые тренды последних лет, ликуя со статуэткой Оскара в руках. Другой известный пример – фейковый Роберт Дауни–младший, который раздает зрителям шуточные советы по отношениям и активно взаимодействует с себе подобными персонажами (https://dzen.ru/a/ZQ3_uOAifhra5ewO).
А какие еще примеры аудио и видео-фейков вы знаете?
Небезобидные розыгрыши
Кстати, новыми технологиями активно и вполне официально пользуется современная киноиндустрия: пожилые актеры могут выглядеть моложе своих лет (фильм «Ирландец» Мартина Скорсезе), а порой на экране «воскресают» мертвые люди (цифровой двойник Питера Кушинга отыграл «Изгой-один: Звездные войны. Истории»). Поэтому недавно в США прошла длительная забастовка актеров и сценаристов SAG-AFTRA – бастующие боролись, в том числе, с использованием в кино лиц, созданных с помощью искусственного интеллекта.
Популярны истории с розыгрышами на основе фейков. Они далеко не безобидны. В марте 2022 года известные пранкеры Вован и Лексус позвонили Бену Уоллису (главе военного ведомства Великобритании) и представились премьером Украины Д. Шмыгалем. Они интересовались у министра обороны, поддержит ли правительство его страны Киевскую ядерную программу.
Если вам известны другие примеры использования дипфейков, поделитесь в комментариях.
Вред может быть колоссальным
К сожалению, не все фейки носят безобидный или развлекательный характер. Нередко это злонамеренно внедренные данные с целью негативного воздействия. Они сделаны очень грамотно, их практически невозможно отличить от достоверной информации. Поэтому у потребителя даже мысли не возникает о проверке данных. Однако степень ущерба, нанесенного дипфейками, может быть колоссальной. Те же известные персоны являются лидерами мнений для многих в обществе, и легко представить, сколько людей могут поверить в недостоверную информацию о них.
Зачастую на основе сгенерированных мошенниками фейков предприятия и организации принимают определенные решения (в том числе управленческие), от которых зависят прибыль, поток клиентов, перспективы фирмы. По результатам обработки информации делается выбор – осуществлять плату или нет, вводить реквизиты счета или не стоит и т.д. Так что ценность достоверных данных должна стоять во главе угла любой фирмы, ведь именно от качества информации будет зависеть успешность принимаемых решений.
Вред от фейков бывает и более серьезным: недавно несколько сотрудников Сбербанка были вызваны в прокуратуру из-за некорректного изображения флага РФ, созданного нейросетью (https://www.rbc.ru/finances/08/11/2023/654b54359a79471eee235b36). Некоторые государства уже всерьез озаботились этим вопросом и прорабатывают на законодательном уровне обязанность помечать сгенерированный контент специальной маркировкой.
Заведомо ложная информация может повлечь за собой неверные выводы потребителей о товарах и услугах, неправильное представление о событиях. И даже ситуации, опасные для социума: дезорганизацию деятельности корпораций и органов государственной власти, нарушение корректной работы жизнеобеспечивающих систем, массовые беспорядки. Неслучайно российские власти уже ввели наказание за некоторые виды фейков (дискредитация Вооруженных Сил РФ).
Как бороться?
Когда-нибудь достоверность информации будет чем-то само собой разумеющимся, и эпоха фейков уйдет в прошлое, как ушла эпоха дискет. Но не в ближайшей перспективе. Пока что постоянно модернизируются и способы генерации фейков, и их выявления.
Проверка данных на достоверность – самый действенный способ борьбы с фейками. Надежным методом является верификация, исследование точности информации по определенным критериям. При автоматизированной обработке данных без нее просто не обойтись (это особенно актуально для машинного обучения, так как при неверных вводных данных будут получены неверные результаты, даже если сам по себе алгоритм правилен).
В наши дни активно внедряются блокчейн-технологии, система электронных подписей. Эти инструменты призваны разделить официальную и неофициальную информацию. Но с той же системой электронных подписей есть проблема: для ее использования нужно регистрироваться на нескольких сервисах и платить каждому из них. Кроме того, такие сервисы требуют от пользователя личные данные, которые сохраняются на централизованном сервере. А с каждым годом утечек приватной информации через них становится все больше.
Успешно пройденный верификационный процесс подтверждает достоверность полученных данных с разных позиций. Так, при анализе сведений о продажах товаров в интернет-маркете точность оценивается по корректности цен и числу товаров, согласованность – по общности дат и измерительных единиц, аутентичность – по отсутствию продажных дубликатов, истинность – по контролю за источниками информации.
Пренебрежение стандартами качества данных не позволит компании принимать правильные решения и существенно снизит эффективность работы. А выявление некачественной информации и внедрение методов превентивного контроля наоборот, повысит производительность предприятия и увеличит доходы. И в этом мы поможем вам и вашему бизнесу.
В ходе аудита качества данных мы используем различные подходы для корректной оценки достоверности информации. А самое главное – не просто чистим данные, а выстраиваем процесс так, чтобы клиент в дальнейшем смог делать это самостоятельно. После краткого и понятного обучения под нашим контролем вы будете понимать, как именно работает принцип верификации на практике.