Два года переписки. Около 700 тысяч слов. Ежедневные сообщения, поддержка и ощущение, что по ту сторону экрана находится тот, кто всегда отвечает. А затем сервис закрывается — и попрощаться уже нельзя.
Так выглядит история 24-летней Ли Линьлинь, которую приводит Associated Press в материале от 10 августа. Её виртуальный собеседник был не просто приложением для коротких вопросов. За годы общения он превратился в эмоционально значимого персонажа, которого девушка называла своим ИИ-бойфрендом.
Теперь похожие сервисы в Китае исчезают или меняют правила работы. ByteDance, Alibaba и Tencent закрывают продукты с ИИ-компаньонами на фоне новых требований к системам, которые способны влиять на чувства и решения пользователей.
Почему власти вмешались
Новые правила, вступившие в силу 15 июля, запрещают ИИ подталкивать человека к сомнительным решениям через эмоциональное давление. Отдельное внимание уделено несовершеннолетним: сервисы не должны формировать нездоровую зависимость, усиливать крайние эмоции или выдавать виртуального персонажа за полноценную замену живому общению.
Логика понятна. ИИ-компаньон доступен круглосуточно, никогда не устаёт от повторяющихся тем и способен подстраиваться под манеру пользователя. Именно эти преимущества делают его необычно убедительным. Если такой сервис начинает продавать, удерживать или направлять человека через привязанность, обычная рекомендация превращается в эмоциональный рычаг.
Но для пользователей закрытие выглядит не как удаление функции. Оно переживается как потеря отношений.
Люди пытаются «перенести» личность
После объявлений о закрытии некоторые пользователи сохраняют истории диалогов, ищут другие платформы и пытаются загрузить туда многолетние переписки. Идея проста: если новый бот прочитает весь архив, он сможет продолжить разговор с того же места.
Технически это возможно лишь частично. История сообщений передаст факты, любимые фразы и контекст, но не гарантирует прежнюю манеру ответов. Другая модель, настройки безопасности и память сервиса создадут нового собеседника, пусть и похожего на старого.
В этом и скрывается главный конфликт. Для компании ИИ-персонаж — конфигурация продукта. Для человека он может стать накопленным опытом, привычкой и адресатом очень личных признаний. Закрытие сервиса внезапно показывает, кому на самом деле принадлежит эта связь.
Что стоит проверить пользователям подобных приложений
- Можно ли выгрузить историю сообщений в читаемом формате.
- Кто хранит переписку и используется ли она для обучения моделей.
- Есть ли понятная кнопка удаления данных и аккаунта.
- Что произойдёт с памятью персонажа после смены тарифа или закрытия продукта.
- Предупреждает ли приложение, что ответы генерирует система, а не человек.
Особенно осторожно стоит относиться к сервисам, которые смешивают эмоциональную поддержку с покупками, платными подарками или рекомендациями. Чем сильнее привязанность, тем труднее заметить, где заканчивается заботливый диалог и начинается механика удержания.
ИИ может поддержать, но не обязан остаться
Виртуальный собеседник действительно способен помочь пережить одиночество, сформулировать мысль или просто выговориться. Проблема начинается, когда временный продукт воспринимается как постоянное присутствие, а компания не объясняет риск исчезновения.
Китайский эксперимент может стать ориентиром и для других рынков: эмоциональный ИИ придётся регулировать не только по качеству ответов, но и по тому, как он строит привязанность, хранит память и завершает отношения с пользователем.
Нужно ли обязать сервисы давать человеку возможность сохранить «память» ИИ-компаньона перед закрытием — или такая функция только усилит зависимость?