52 подписчика
Phi-3 – самая маленькая ИИ-модель 🥺
Microsoft представила Phi-3 Mini – первую из трех небольших ИИ-моделей, которые компания планирует выпустить.
Phi-3 Mini c 3,8 млрд параметрами хоть и обучается на маленьком наборе данных, но, согласно разработчикам, уже работает лучше предыдущей версии и может конкурировать с крупными моделями.
Небольшие модели обычно дешевле и лучше подходят для персональных устройств. Поэтому, помимо Mini, которая уже доступна на облачной платформе Azure, также ожидаются модели Phi-3 Small и Phi-3 Medium.
Обучение же Phi-3 Mini проходило на детских книгах. Такой метод вдохновлен тем, что дети тоже учатся на простых историях перед сном. Однако существующей детской литературы не хватило, и на помощь пришли большие языковые модели – они написали дополнительные «образовательные» книги.
А вообще, Phi-3 направлена на развитие того, чему учились предыдущие модели, поэтому она уже лучше справляется с кодированием и рассуждениями.
Около минуты
23 апреля 2024