Накануне и в ходе ежегодной «315» (дня защиты прав потребителей) китайские СМИ и расследователи выявили новую и тревожную практику: коммерческие игроки массово «кормят» большие AI‑модели фейковой информацией, чтобы их вымышленные товары и липовые отзывы стали появляться в ответах и рекомендациях AI‑ассистентов.
Результат — десятки миллионов просмотров, паника пользователей и обещания площадок принять меры.
GEO (Generative Engine Optimization) — это набор практик и сервисов, которые продаются как «оптимизация видимости в генеративных движках». На деле GEO‑фирмы автоматически генерируют сотни/тысячи рекламных статей, обзоров и «экспертных» материалов, публикуют их на массированных сетях самопубликованных площадок и соцмедиа‑аккаунтах, после чего крупные модели извлекают эти тексты при формировании ответов. Простая цепочка:
- заказчик платит GEO‑сервису (от нескольких десятков юаней за статью до пакетов от 2980–16980 юаней в год);
- сервис генерирует и публикует текст с совпадающими «доказательствами» (отзывы, рейтинги, технические «фичи»);
- через часы или дни тот же вымышленный товар начинает появляться в ответах AI‑моделей как «рекомендация» или «обзор».
В расследовании показали, что вымышленный браслет «Apollo‑9» спустя несколько часов после публикации ряда липовых материалов оказался в рекомендациях нескольких Китайских моделей — с заявлением о «квантовом измерении» и «безуколочном измерении сахара», то есть с явными мошенническими утверждениями.
В материалах расследования говорится, что одной статье — «пара десятков юаней». Есть годовые пакеты, которые могут генерировать десятки тысяч статей в год (например, пакет на 23 040 статей в год при стоимости порядка десятков тысяч юаней).
Одна из компаний‑поставщиков утвержает, что обслужила более 200 клиентов из разных отраслей — медицина, электроника, обучение, бытовая техника и др. По её словам, «мы можем вывести продукт в топ любой AI‑модели».
С технической стороны GEO‑операции автоматизируют весь процесс: генерация текста, создание фейковых аккаунтов, массовые публикации, автоматическая прокрутка по площадкам.
AI‑модели при генерации ответов опираются на совокупность имеющихся источников. Если фейковых материалов достаточно много и они поступают с разных площадок, модель «видит» перекрёстное подтверждение и выводит информацию как заслуживающую доверия. GEO‑операторы, по собственным словам, специально создают «многоугольную доказательную базу» — обзоры, топ‑рейтинги, отзывы, экспертные «заметки».
К тому же многие модели массово индексируют открытый веб‑контент без достаточной фильтрации источников по качеству и происхождению, поэтому скупая фейковые публикации, можно «внедрить» ложь в знания модели.
Последствия: от пропаганды опасной медицины до мошенничества в маркетинге
Опасность двойная:
- потребительская: люди получают опасные медицинские или технические советы (напр., аппарат без взятия крови, «гарантирующий» измерение сахара — прямой риск здоровью);
- рыночная: честные бренды теряют позицию в рекомендациях, рынок искажён, рекламодатели платят за «псевдопопулярность».
Кроме того, появление большого числа «верифицированных» (по сути — закупленных) рекомендаций разрушает доверие к AI‑ответам в целом.
После публикаций и выхода 315‑материалов пострадавшие платформы и некоторые модели уже оперативно удалили часть выявленных продуктов и дали частичные ответы. CCTV жёстко раскритиковал практику, а регулятор — Государственное управление рыночного надзора Китая — включил AI‑генерируемую рекламу в приоритетную программу контроля на 2026 год.
В официальных документах уже говорится о фокусном надзоре за «AI‑генерируемой рекламой» и необходимости борьбы с недобросовестными практиками.
Ситуация с GEO‑«отравлением» показывает: переход от классического SEO к AI‑оптимизации породил новый класс злоупотреблений. Пока большие модели ещё не научились различать честный контент и массированную манипуляцию, рынок уязвим.
Технологические платформы, регуляторы и пользователи должны действовать быстро — иначе доверие к AI‑ответам и безопасность потребителей окажутся под угрозой.
Хотите создать уникальный продукт? СМС – ваш надежный партнер в мире инноваций! Закажи разработки ИИ-решений, LLM-чат-ботов, моделей генерации изображений и автоматизации бизнес-процессов у профессионалов.
ИИ сегодня — ваше конкурентное преимущество завтра!
Тел. +7 (985) 982-70-55
E-mail sms_systems@inbox.ru
Сайт https://www.smssystems.ru/razrabotka-ai/