Найти тему
384 подписчика

Сразу две интересные новости из мира языковых моделей:


OpenAI открыли доступ для бесплатных пользователей к GPTs (если кто не в курсе, это такие преднастроенные заранее AI агенты, с уже настроенным системным промптом и подключенными плагинами), которые уже доступны в официальном онлайн чате.

Но судя по моим тестам, некоторые из них отказываются работать, требуя премиум подписку. В принципе, ничего нового 👍

Mistral выпустили свою первую модель заточенную под работу с кодом - Codestral 22B

Разработчики заявляют, что модель работает более с чем 80 языками программирования.

Из особенностей - скорость генерации кода быстрее, чем у GPT-4o, контекстное окно на 32 тысячи токенов.

Судя по данным бенчмарков, Codestral обходит CodeLlama 70b, Llama 3 70b и ряд других моделей, заточенных под работу с кодом.

Понимает инструкции на русском, также пишет и общается на русском. Более того, умеет даже писать код на русском, задачу написать что-то на языке 1С выполнила без проблем 😄

Модель доступна бесплатна в онлайн чате.

Также уже доступны квантованные GGUF версии модели для локального использования, скачать их можно на HuggingFace. Для запуска понадобится примерно 14-16 гигабайт оперативной памяти

1 минута