Департамент информационных технологий города Москвы инициировал тестирование нового бесплатного сервиса, предназначенного для защиты жителей от кибермошенников.
В рамках информационного проекта «Перезвони сам» был разработан специальный телеграм-бот, способный анализировать текстовые и голосовые сообщения для выявления признаков мошенничества.
«С развитием технологий уловки мошенников становятся всё изощреннее: они представляются сотрудниками банков или официальных учреждений, предлагают выгодные вакансии или распродажи, отправляют запросы на помощь от взломанных аккаунтов знакомых, используя различные схемы обмана. Мы разработали бесплатный инструмент, который позволяет проверять полученные сообщения. Телеграм-бот анализирует текстовые сообщения, скриншоты переписок или голосовые записи, чтобы определить наличие признаков мошенничества. Для работы используется искусственный интеллект с применением крупных языковых моделей, а также технологий оптического распознавания текста и речи», — пояснила Валентина Шилина, руководитель проекта «Перезвони сам» столичного Департамента информационных технологий.
Сервис на данный момент функционирует в тестовом режиме, который будет продолжаться до 27 февраля. По результатам анализа сообщений бот предоставляет предварительные данные, на которые рекомендуется обратить внимание пользователям. Завершение пилотного этапа предполагает доработку функционала с учетом собранных отзывов и предложений. Планируется, что весной 2025 года проект начнет полноценно работать.
Функционал бота позволяет ему выявлять различные признаки потенциального обмана. Он проводит анализ текста и скриншотов переписок, обращая внимание на проявления эмоционального давления, попытки манипуляции, запросы личных данных, требования перевести деньги или переходы по подозрительным ссылкам.
Когда на проверку отправляются аудиофайлы, бот оценивает вероятность наличия мошенничества, основываясь на содержании предоставленной записи или описании беседы. Более того, инструмент способен распознавать использование синтезированного голоса, что помогает выявить дипфейки — мошеннические сообщения, в которых подделан голос отправителя.
После завершения анализа пользователи получают информацию о процентной вероятности мошенничества в сообщении, а также отмечаются сигналы, вызывающие подозрение.
Основой работы бота служат передовые технологии, включая крупные языковые модели (LLM) для анализа текстов и алгоритмы оптического распознавания символов для обработки изображений. При работе с аудиозаписями алгоритм действует в два этапа: сначала проверяется использование синтезированного голоса, затем анализируется текстовая расшифровка на наличие мошеннических признаков. В процессе обработки пользовательских данных нейросеть бота совершенствуется, обучаясь на новых примерах, что увеличивает точность распознавания обмана и помогает лучше понимать схемы мошенников.
Проект «Перезвони сам», стартовавший в 2022 году, нацелен на защиту жителей мегаполиса от интернет- и телефонного мошенничества. На его официальном сайте размещены обучающие материалы, памятки, записи вебинаров и информация о проводимых мероприятиях. В 2023 году проект удостоился наград «Золотой сайт» и «Премия Рунета» за значительный вклад в развитие информационной безопасности.