Норникель представил MetalGPT-1 — первую в мире открытую языковую модель, созданную специально для металлургии и горнодобывающей отрасли. Это доменная LLM с 32 млрд параметров, обученная на 10 ГБ уникальных промышленных данных: технологических протоколах, проектной документации, внутренних регламентах, патентах и научных отчётах. Объём корпуса сопоставим с половиной англоязычной Википедии.
В отличие от универсальных моделей, MetalGPT-1 понимает специфический язык отрасли: термины, аббревиатуры, технологические цепочки и выдаёт решения с минимальным уровнем галлюцинаций. Все данные прошли многоступенчатую очистку и анонимизацию, что позволило сохранить коммерческую тайну при использовании реальной отраслевой экспертизы.
Для повышения точности модель дообучили на 500 тысяч вопросах и ответах, составленных на основе реальных производственных задач. Это помогает ей улавливать причинно-следственные связи внутри сложных процессов и давать устойчивые к ошибкам рекомендации.
Разработка заняла около года: шесть месяцев ушло на подготовку данных, два на базовое обучение и ещё два на доменную адаптацию. Команда Норникеля также создала промышленный бенчмарк по металлургии, на котором MetalGPT-1 уверенно превосходит общедоступные универсальные аналоги.
Модель уже используется внутри компании для создания ИИ-ассистентов и автономных агентов, встраиваемых в операционные процессы. Сейчас MetalGPT-1 и бенчмарк доступны в открытом доступе на Hugging Face, любой игрок в отрасли может адаптировать их под свои нужды.
Проект реализован командой AI-направления Норникеля под руководством Данила Ивашечкина, в которую вошли специалисты из бывшего московского офиса BCG.
Ещё больше интересных новостей в ТГ-канале DgtlNow - Подпишись!