С развитием технологий, таких как Midjourney, Google Gemini и ChatGPT от OpenAI, deepfake видео, фото и аудио становятся всё более распространёнными в интернете. Благодаря этим инструментам любой человек может создать правдоподобные изображения или заставить говорить голоса известных личностей. Хотя само по себе создание deepfakes не является незаконным, многие страны начинают ужесточать регулирование использования искусственного интеллекта, чтобы предотвратить возможный вред для вовлечённых сторон.
Deepfakes могут использоваться не только для создания порнографического контента с участием знаменитостей, но и для кражи личных данных, подделки документов и телефонного мошенничества. Согласно последнему отчёту службы проверки личности Sumsub, количество случаев мошенничества с личными данными, связанных с deepfake, значительно возросло с 2022 по 2023 год в различных странах.
Например, на Филиппинах количество попыток мошенничества увеличилось на 4500 процентов по сравнению с предыдущим годом. За ними следуют такие страны, как Вьетнам, США и Бельгия. С расширением возможностей искусственного интеллекта мошенничество с использованием deepfake может распространяться на новые области.
«Deepfakes становятся всё более убедительными и будут использоваться для новых видов мошенничества, как это происходит с голосовыми deepfake», — комментирует Павел Голдман-Калайдин, руководитель подразделения искусственного интеллекта и машинного обучения в Sumsub.
Эту точку зрения поддерживают многие специалисты по кибербезопасности. В опросе среди лидеров кибербезопасности на ежегодной встрече Всемирного экономического форума по кибербезопасности в 2023 году выяснилось, что 46 процентов респондентов особенно обеспокоены «развитием способов противодействия — фишинга, разработки вредоносных программ, deepfakes» из-за угроз ИИ для кибербезопасности в будущем.
