Машинное обучение9848 подписчиковПодписаться🎯Высокопроизводительная модель INT4 Mistral-7B доступна для всех.Intel Neural Compressor (превосходящая GPTQ и AWQ) и эффективно инференцированная Intel Extension for Transformers!🤗 Модель: https://huggingface.co/Intel/Mistral-7B-v0.1-int4-inc🌟https://github.com/intel/neural-compressor@machinelearningОколо минуты22 февраля