Китайский рынок электронной коммерции столкнулся с новой проблемой: массовым мошенничеством с возвратами товаров, что стало возможным благодаря доступности генеративного искусственного интеллекта. Злоумышленники используют ИИ для создания реалистичных фотографий «бракованных» товаров, чтобы получать деньги назад, оставляя покупки себе.
Корень проблемы кроется в политике возврата средств, которую первой популяризировала платформа Pinduoduo для привлечения клиентов, а затем подхватили гиганты вроде Taobao и JD.com. Суть правила проста: если товар дешёвый или некачественный, покупатель может получить деньги назад без необходимости отправлять вещь обратно продавцу. Изначально это задумывалось как способ борьбы с недобросовестными продавцами и экономии на логистике, но в итоге породило целую индустрию обмана.
Теперь недобросовестные покупатели, которых в Китае называют «стригалями овец» (люди, охотящиеся за бонусами и скидками), массово эксплуатируют эту лазейку. Вместо того чтобы искать в интернете чужие фото сломанных вещей, они генерируют уникальные доказательства брака с помощью нейросетей за считанные секунды.
Схема мошенничества доведена до автоматизма. Покупатель заказывает товар — например, одежду, гаджеты или даже еду — и после получения заявляет о дефекте. В качестве доказательства к жалобе прикрепляется сгенерированное изображение:
- Пятна или дыры на платье, которые выглядят абсолютно натурально.
- «Ржавчина» на новом электрическом устройстве.
- «Плесень» на свежих фруктах.
Стоимость создания такой фальшивки ничтожна. На чёрном рынке цена за одно сгенерированное фото составляет всего 5–8 юаней (около 70–100 рублей). Более того, в китайских соцсетях и мессенджерах процветает торговля туториалами по «бесплатному питанию» — так на сленге называют успешное получение товара без оплаты. Хотя платформы блокируют прямые запросы вроде «инструкция по возврату на Taobao», мошенники используют кодовые фразы, вроде как «сойти с поезда» (успешно завершить схему) или «подобрать объедки» (найти уязвимость).
Для малого бизнеса последствия оказались катастрофическими. Многие продавцы не имеют ресурсов для оспаривания каждой жалобы, особенно когда платформы по умолчанию встают на сторону клиента. В одном из задокументированных случаев владелец магазина потерял 180 000 юаней (около $25 000) менее чем за четыре месяца из-за вала фиктивных возвратов.
Продавцы жалуются, что отличить качественный дипфейк от реальности становится всё сложнее. Некоторые изображения всё ещё содержат артефакты — странное освещение или лишние пальцы, — но технологии совершенствуются с каждым днём. В одном курьёзном случае продавец попросил видеодоказательство «трещин» на кружке, после чего мошенник тут же отозвал претензию, так как сгенерировать убедительное видео сложнее, чем фото.
Осознав масштаб бедствия, китайские маркетплейсы начали ужесточать правила. Taobao и Tmall отменили автоматическое одобрение заявок на возврат и внедрили новую систему кредитного рейтинга покупателей. Теперь решение о быстром возврате зависит от истории покупок и благонадёжности аккаунта.
Alibaba задействовала свою команду безопасности Green Network, которая разрабатывает инструменты для распознавания изображений, созданных нейросетями. Государство также вмешалось: в сентябре вступили в силу «Временные меры по управлению контентом, созданным с помощью ИИ». Согласно новым правилам, любой сгенерированный контент должен иметь явную маркировку, а также скрытые цифровые водяные знаки. Однако на практике эти метки часто удаляются или игнорируются мошенниками, что до сих пор оставляет проблему актуальной.
Ещё по теме: