Найти в Дзене
OVERCLOCKERS.RU

Языковая модель Falcon 180B хочет превзойти Google, но не GPT-4 от OpenAI

Все уже знают о существовании GPT-4, а многим известны также ИИ-инструменты PaLM от Google и Llama — но есть и ряд других крупных LLM (больших языковых моделей), которые умеют генерировать тексты и другой контент.

Одним из них является Falcon, который разрабатывается Институтом технологических инноваций (TII) в Абу-Даби. Теперь этот инструмент доступен в новой версии под аббревиатурой «180B». Производители, выпустившие Falcon 180B, заявляют, что он лучше, чем PaLM 2 от Google, а также LLaMA 2. Он был обучен с помощью Amazon SageMaker и около 7 миллионов часов вычислительного времени на графическом процессоре.

Изображение: Falcon 180B

Falcon основан на 180 миллиардах параметров, что превосходит 175 миллиардов параметров OpenAI GPT-3 и 70 миллиардов параметров Llama 2, а также, как говорят, превосходит малые и средние модели Google PaLM 2 в тестах производительности.

Однако сравнивать его с GPT-4 от OpenAI эксперты не решаются, ведь говорят, что он имеет сотни триллионов параметров — и на данный момент является безоговорочным лидером рынка в области LLM. Google уже представил Gemini, который должен конкурировать с GPT-4.

Falcon 180B доступен как для исследовательских, так и для коммерческих целей. Чтобы попробовать Falcon 180B, можно запустить демо-версию его варианта на ИИ-платформе Hugging Face. Понадобится много оперативной памяти (от 320 до 5120 ГБ в зависимости от версии). Необходимо подписать лицензионное соглашение с TII.

Важно знать: TII финансируется правительством Абу-Даби. Использование Falcon не должно нарушать какие-либо «национальные, федеральные, государственные, местные или международные законы и правила», и, соответственно, пользователи должны внимательно изучить законы государства Персидского залива.