π₯ Qwen2.5-Omni-3B β ΠΎΠΏΡΠΈΠΌΠΈΠ·ΠΈΡΠΎΠ²Π°Π½Π½Π°Ρ, ΠΊΠΎΠΌΠΏΠ°ΠΊΡΠ½Π°Ρ Omni ΠΌΠΎΠ΄Π΅Π»Ρ(3B), Π΄ΠΎΡΡΡΠΏΠ½Π°Ρ Π΄Π»Ρ Π·Π°ΠΏΡΡΠΊΠ° Π½Π° ΠΎΠ±ΡΡΠ½ΡΡ
ΠΏΠΎΡΡΠ΅Π±ΠΈΡΠ΅Π»ΡΡΠΊΠΈΡ
GPU! π ΠΠΊΠΎΠ½ΠΎΠΌΠΈΡ ΠΏΠ°ΠΌΡΡΠΈ: ΠΏΠΎ ΡΡΠ°Π²Π½Π΅Π½ΠΈΡ Ρ 7B-Π²Π΅ΡΡΠΈΠ΅ΠΉ ΠΌΠΎΠ΄Π΅Π»Ρ ΠΏΠΎΡΡΠ΅Π±Π»ΡΠ΅Ρ Π½Π° 50 % ΠΌΠ΅Π½ΡΡΠ΅ VRAM ΠΏΡΠΈ ΠΎΠ±ΡΠ°Π±ΠΎΡΠΊΠ΅ Π΄Π»ΠΈΠ½Π½ΠΎΠ³ΠΎ ΠΊΠΎΠ½ΡΠ΅ΠΊΡΡΠ° (~25 000 ΡΠΎΠΊΠ΅Π½ΠΎΠ²). πΊ ΠΡΠ»ΡΡΠΈΠΌΠΎΠ΄Π°Π»ΡΠ½ΡΠ΅ ΡΠ΅ΠΆΠΈΠΌ: ΠΏΠΎΠ΄Π΄Π΅ΡΠΆΠΊΠ° 30-ΡΠ΅ΠΊΡΠ½Π΄Π½ΡΡ
Π°ΡΠ΄ΠΈΠΎ- ΠΈ Π²ΠΈΠ΄Π΅ΠΎΒ«ΠΈΠ· ΠΊΠΎΡΠΎΠ±ΠΊΠΈΒ» Π½Π° 24 GB Π²ΠΈΠ΄Π΅ΠΎΠΊΠ°ΡΡΠ°Ρ
. π€ ΠΡΡΠΎΠΊΠΎΠ΅ ΠΊΠ°ΡΠ΅ΡΡΠ²ΠΎ: ΠΌΠΎΠ΄Π΅Π»Ρ ΡΠΎΡ
ΡΠ°Π½ΡΠ΅Ρ ΡΠ²ΡΡΠ΅ 90 % ΡΠΎΡΠ½ΠΎΡΡΠΈ ΠΎΡΠ²Π΅ΡΠΎΠ² ΠΈ ΠΎΠ±Π΅ΡΠΏΠ΅ΡΠΈΠ²Π°Π΅Ρ Π΅ΡΡΠ΅ΡΡΠ²Π΅Π½Π½ΡΠΉ, ΡΡΠ°Π±ΠΈΠ»ΡΠ½ΡΠΉ ΡΠΈΠ½ΡΠ΅Π· ΡΠ΅ΡΠΈ Π½Π° ΡΡΠΎΠ²Π½Π΅ 7B-ΠΌΠΎΠ΄Π΅Π»ΠΈ. π Π Π΅ΠΏΠΎΠ·ΠΈΡΠΎΡΠΈΠΉ GitHub: https://github.com/QwenLM/Qwen2.5-Omni πHugging Face: https://huggingface.co/Qwen/Qwen2.5-Omni-3B πModelScope: https://modelscope.cn/models/Qwen/Qwen2.5-Omni-3B #Qwen #omni #opensource @machinelearning
π₯ Qwen2.5-Omni-3B β ΠΎΠΏΡΠΈΠΌΠΈΠ·ΠΈΡΠΎΠ²Π°Π½Π½Π°Ρ, ΠΊΠΎΠΌΠΏΠ°ΠΊΡΠ½Π°Ρ Omni ΠΌΠΎΠ΄Π΅Π»Ρ(3B), Π΄ΠΎΡΡΡΠΏΠ½Π°Ρ Π΄Π»Ρ Π·Π°ΠΏΡΡΠΊΠ° Π½Π° ΠΎΠ±ΡΡΠ½ΡΡ ΠΏΠΎΡΡΠ΅Π±ΠΈΡΠ΅Π»ΡΡΠΊΠΈΡ GPU
30Β Π°ΠΏΡΠ΅Π»Ρ30Β Π°ΠΏΡ
5
~1 ΠΌΠΈΠ½