Microsoft выпустила Phi-3.5-MoE — усовершенствованную модель искусственного интеллекта, которая по возможностям рассуждения может соперничать с гораздо более крупными моделями, сохраняя при этом компактную и эффективную архитектуру. Модель предназначена для коммерческого и исследовательского использования на нескольких языках.
Phi-3.5-MoE использует архитектуру "смешанных экспертов" (Mixture-of-Experts, MoE), которая активирует только ключевые блоки параметров для конкретной задачи, позволяя эффективно использовать вычислительные ресурсы.
Эта модель, имеющая 42 миллиарда параметров с активацией только 6,6 миллиардов, демонстрирует высокую производительность в задачах сложного рассуждения, математики, многозадачности и кодирования. Она опережает модели, такие как Llama 3.1 от Meta и Gemma 2 от Google, но уступает GPT-4o mini в ряде тестов.
Модель поддерживает контекст длиной до 125 000 токенов, что делает её пригодной для обработки длинных текстов.
Phi-3.5-MoE доступна в открытом доступе на платформе Hugging Face под лицензией MIT, что позволяет разработчикам свободно использовать её в коммерческих и некоммерческих целях.
Эти разработки важны, так как они прокладывают путь к созданию более компактных и мощных моделей ИИ, которые могут работать на локальных устройствах, включая мобильные, что усиливает конфиденциальность и доступность таких технологий.
***
Друзья, по традиции представляю вам свое нейротворчество - изображения, созданные с помощью нейросети (15 фото):
Эти нейроарты созданы мною в бесплатной нейросети Playgroundai.
☎ Друзья, откройте новые грани вашего стиля с уникальным нейропортретом: закажите для себя или близких портрет в любимом образе и подарите незабываемые эмоции, воплотив свои мечты в Реальность!
<<<Заказать персональный портрет>>>
_________________________________________________
P.S. Приглашение на Мастер-Классы по изучению Топовых Нейросетей, где Вас ждут Бонусы и Подарки: