Мы обсуждаем нейросети в контексте того, как они пишут код, рисуют картинки или заменяют журналистов. Но почти никто не говорит о том, как эти же технологии используются против самых уязвимых — детей. А между тем это происходит прямо сейчас, и происходит массово.
Весной этого года на Российском форуме по управлению интернетом эксперты АНО «Диалог Регионы» и УБК МВД России заявили, что нейросети превратились в серьезное оружие для манипуляции детьми. Злоумышленники комбинируют методы социальной инженерии с генеративным ИИ, и результат получается настолько убедительным, что даже взрослые не всегда распознают обман. Дети и подавно…
Как злоумышленники используют нейросети
Раньше мошеннику приходилось долго втираться в доверие: создавать фейковые профили, подбирать фотографии, учить сленг и имитировать интересы. Такая «социальная инженерия» могла занимать недели, а то и месяцы.
Сейчас же при помощи искусственного интеллекта это делается за минуты. Злоумышленник запускает нейросеть, которая анализирует профиль ребенка в соцсети. Бот смотрит, во что играет человек, что лайкает, с кем дружит и как формулирует мысли. После этого ИИ генерирует персонализированное сообщение, например, «крутой скин в «Бравл Старс», я тоже на Дженет играю, хочешь вместе катку?». Ребенок видит ровесника со схожими интересами, но за аватаркой сидит взрослый мужчина с нейросетью.
Потом начинается выстраивание доверия: бот регулярно пишет, помнит детали из прошлых разговоров и адаптирует тон. Он может поддержать, когда ребенок жалуется на родителей или на школу, а также может похвалить, когда тот чем-то гордится. Это не просто переписка — это психологическая работа, автоматизированная и масштабируемая.
Один человек с набором нейросетевых инструментов может вести сотни таких диалогов одновременно, и в каждом из них ребенок будет уверен, что общается с живым другом.
Голос, который звонит маме
Есть и другой уровень — дипфейки. В 2023 году в Аризоне мошенники позвонили женщине и в трубке зазвучал голос ее пятнадцатилетней дочери, умоляющей о помощи. Потом трубку выхватил мужчина и потребовал выкуп. Мать была абсолютно уверена, что слышит голос своего ребенка. К счастью, ей удалось быстро убедиться, что с дочкой все в порядке, и понять, что это подделка.
Нейросеть обучается на коротких видео из TikTok и YouTube. Дети постят тонны видео со своими голосами, и этого хватает на десять-пятнадцать секунд речи для обучения модели. Потом эта модель может генерировать любые фразы в голосе ребенка. Раньше для этого нужна была студия и недели работы. Сейчас — ноутбук и пара часов.
Шантаж с нейросетевым лицом
Особенно мерзкая схема — шантаж с использованием сгенерированных изображений. Злоумышленник создает фейковый аккаунт ровесника, заводит переписку с подростком и переводит ее во флирт. Потом предлагает обменяться фотографиями, и наивный ребенок отправляет свое селфи, а в ответ получает сгенерированное нейросетью изображение.
Переписка продолжается, мошенник получает компрометирующий материал, а потом меняет тон — угрожает разослать снимки друзьям, одноклассникам и родителям. Требует деньги или новые фотографии.
В 2024 году в США арестовали мужчину, который создал тринадцать тысяч гиперреалистичных изображений с участием несовершеннолетних и отправил сгенерированные снимки пятнадцатилетнему мальчику. Ему грозит до семидесяти лет тюрьмы.
В России такая деятельность подпадает под статью 242.1 УК РФ с максимальным наказанием до восьми лет лишения свободы. Но проблема в том, что до суда дело доходит далеко не всегда, а пока оно доходит, ребенок уже получил психологическую травму.
Легкий заработок и сломанное будущее
Есть и менее очевидная, но не менее опасная схема. Злоумышленники используют нейросети не только для прямого контакта с детьми, но и для вовлечения их в преступную деятельность. Подросткам в мессенджерах пишут с предложениями легкого заработка — сдать аккаунт в аренду, перевести деньги или стать курьером.
По словам первого заместителя начальника УБК МВД России Сергея Калинина, только в Telegram около 2,5 тысяч таких каналов, куда вовлечено свыше ста тысяч подростков. Они становятся соучастниками, обеспечивая инфраструктуру для колл-центров, а потом получают судимость, которая портит всю будущую жизнь.
Нейросети здесь играют вспомогательную, но важную роль. Они генерируют убедительные сообщения, подбирают формулировки под конкретного подростка, имитируют голоса руководителей или родителей для подтверждения легитимности схемы.
Почему дети не защищены
Мы уверены, что наши дети умные, что они разбираются в интернете лучше нас, что предупреждали их об опасностях. Но данные говорят обратное, например, по исследованию АНО «Диалог Регионы», 64% взрослых считают, что умеют распознавать фейки, однако 65% из них признались, что уже становились жертвами обмана. Если взрослые с опытом и критическим мышлением попадаются, что говорить о детях?
Начальник управления по противодействию недостоверной информации АНО «Диалог Регионы» Сергей Маклаков отметил, что больше всего рискуют именно те, кто слишком уверен в себе. Молодежь от восемнадцати до тридцати четырех лет часто уверена в своих навыках и реже хочет учиться, а люди старшего возраста, наоборот, относятся к своим умениям скептично. Парадокс в том, что чем больше ты думаешь, что разбираешься, тем легче тебя обмануть.
Что можно сделать
Запретить ребенку соцсети не поможет. Если хочет зайти — найдёт способ сделать это, помочь не попасться может только искренний разговор. Лучшая защита — это когда ребенок знает, что может прийти к родителям с любой проблемой без страха наказания и осуждения.
Есть и технические меры:
- двухфакторная аутентификация на всех аккаунтах;
- запрет на установку приложений из неофициальных источников;
- родительский контроль, который не шпионит за каждой ссылкой, но блокирует подозрительные контакты и предупреждает о возможных рисках.
Также важно объяснить простые правила, например, что не стоит добавлять «в друзья» незнакомцев. Ни в коем случае никому нельзя отправлять личные данные, нельзя верить предложениям легкого заработка и не платить шантажистам.
Но главное — это научить ребенка критическому мышлению. Если ровесник в интернете слишком быстро становится близким другом — это странно, а если просит фотографии или деньги — это опасно. Если предлагает заработок, о котором не знают родители — это ловушка. Эти правила просты, но работают только тогда, когда ребенок их понимает.
Мы не можем остановить развитие технологий и не должны, но мы обязаны научить детей жить в мире, где реальность и фейк различаются все сложнее.