Американский разработчик искусственного интеллекта Anthropic заявил, что обнаружил скоординированные кампании трёх китайских ИИ-компаний по нелегальному извлечению возможностей его чат-бота Claude. По их данным, речь идёт о промышленной краже интеллектуальной собственности с использованием метода «дистилляции».
Дистилляция – распространённая в ИИ-отрасли практика, при которой выходные данные более мощной системы используются для быстрого повышения производительности менее способной модели. Именно этот метод, как утверждается, прославил DeepSeek год назад, когда его дешёвая модель неожиданно продемонстрировала производительность, сопоставимую с ChatGPT и другими ведущими американскими системами, поставив под сомнение безоговорочное лидерство США в стратегической отрасли.
Масштаб операции
В Anthropic установил, что фигурантами дела стали DeepSeek, Moonshot AI и MiniMax. Компании провели около 16 миллионов обменов с моделью Claude через 24 тысячи фейковых аккаунтов, что позволило им присвоить возможности, не разработанные самостоятельно, – по цене несопоставимо меньшей, чем их реальная стоимость. Лидером по объёму стала MiniMax: на её счету более 13 миллионов запросов.
Каждая из кампаний была сосредоточена на областях, в которых Claude считается эталоном: программирование, агентное мышление и работа с инструментами. Чтобы обойти введённый Anthropic запрет на коммерческий доступ из Китая, лаборатории направляли трафик через прокси-сервисы, управлявшие разветвлёнными сетями поддельных аккаунтов.
Угроза безопасности
Anthropic подчёркивает, что проблема выходит далеко за рамки корпоративного спора. По мнению компании, модели, созданные через нелегальную дистилляцию, с высокой вероятностью лишены защитных ограничений, предотвращающих злоупотребления, – в том числе тех, что блокируют помощь в создании биологического оружия или подготовке кибератак. Кроме того, подобная практика де-факто обходит американские экспортные ограничения на передовые технологии, введённые для сохранения лидерства США в сфере ИИ.
Компанпризвал к скоординированным действиям со стороны индустрии и правительства, признав, что справиться с этим в одиночку невозможно. Схожие обвинения в адрес китайских компаний ранее в феврале выдвинул конкурент — OpenAI, создатель ChatGPT: его представители заявили американским законодателям о «продолжающихся попытках использовать возможности, разработанные OpenAI и другими ведущими американскими лабораториями». Между тем по данным исследования Стэнфорда, разрыв между китайскими и американскими моделями неуклонно сокращается: китайские системы уже показывают сопоставимые результаты на ряде ключевых бенчмарков.