Я рад поделиться с вами интересной новостью о новом открытом ИИ-модели от Mistral AI — Mistral Small 3. Эта языковая модель обладает 24 миллиардами параметров и ориентирована на скорость и эффективность. Не смотря на свои размеры, Mistral Small 3 может конкурировать с более крупными моделями, такими как Llama 3 (70B параметров) и Qwen 32B, при этом она более чем в три раза быстрее на аналогичном аппаратном обеспечении.

Модель выпущена под лицензией Apache 2.0, что открывает новые горизонты для разработчиков. Она отлично подходит для выполнения большинства задач генеративного ИИ, включая помощь в диалогах и выполнение инструкций. Примечательно, что Mistral Small 3 достигает более 81% точности на бенчмарке Massive Multitask Language Understanding (MMLU) и способна обрабатывать до 150 токенов в секунду, что делает её одной из самых эффективных моделей в своей категории.

Mistral Small 3 особенно хороша для локального развертывания благодаря уменьшенному количеству слоёв, что минимизирует задержки во время вывода. Она может работать на потребительском оборудовании, таком как GPU RTX 4090 или MacBook с 32 ГБ оперативной памяти. Это делает модель доступной не только для больших компаний, но и для менее мощных устройств.

Что действительно выделяет Mistral Small 3, так это возможность её адаптации к специфическим применениям. Программа предоставляет как предобученные, так и обученные по инструкциям контрольные точки, позволяя разработчикам подстраивать модель под свои нужды, например в таких секторах, как здравоохранение и право. Основные применения этой модели включают виртуальных ассистентов с быстрым откликом, низколатентное выполнение функций в автоматизированных рабочих процессах и локальный вывод данных для организаций, работающих с конфиденциальной информацией.

Среди отраслей, уже изучающих потенциал Mistral Small 3, можно выделить финансы (например, для обнаружения мошенничества), здравоохранение (для первичной оценки клиентов) и робототехнику (для управления).

Компания Mistral AI продолжает развивать открытое программное обеспечение, намереваясь использовать лицензию Apache 2.0 для своих общих моделей, что способствует инновациям и гибкости в разработке.

Как вы думаете, насколько Мistral Small 3 повлияет на рынок? Есть ли у нее конкурентные преимущества, которые помогут ей занять свою нишу? Жду ваших мнений!

#ИскусственныйИнтеллект #MistralAI #ОткрытыйКод #AIМодели

2 минуты

18 марта 2025