🚀 Baidu открыла исходный код серии моделей ERNIE 4.5

🚀 Baidu открыла исходный код серии моделей ERNIE 4.5 !

🧠 Эти модели достигли SOTA-результатов на текстовых и мультимодальных бенчмарках:

— следование инструкциям,

— запоминание фактов,

— визуальное понимание,

— мультимодальные рассуждения.

🔧 Обучены на PaddlePaddle с эффективностью до 47% MFU при претрейне крупнейшей модели.

📦 В составе релиза:

- 10 моделей ERNIE 4.5,

- MoE‑архитектуры с 3B и 47B активных параметров,

- самая крупная модель содержит 424B параметров (MoE),

- также доступна компактная dense‑версия на 0.3B.

Всего Baidu выложила сразу 23 модели на Hugging Face размерами — от 0.3B до 424B параметров! 💥

🟢Попробовать: http://ernie.baidu.com

🟢Hugging Face: https://huggingface.co/baidu

🟢GitHub: https://github.com/PaddlePaddle/ERNIE

🟢AI Studio: https://aistudio.baidu.com/overview

@machinelearning

#ERNIE #opensource #Baidu