380 подписчиков
Google представила Gemini 1.5 - до 1 миллиона токенов, мультимодальность и общее улучшение работы.
Пока что доступ к Gemini Pro будет только у разработчиков и корпоративных клиентов через AI Studio и Vertex AI.
Стандартное контекстное окно модели Gemini 1.5 Pro составляет 128 000 токенов, но в рамках ЗБТ будет доступен вариант на 1 миллион токенов. Это означает, что 1.5 Pro может обрабатывать огромные объемы информации за один раз, включая 1 час видео, 11 часов аудио, кодовые базы с более чем 30 000 строк кода или более 700 000 слов.
Кроме того, Google заявляет, что потенциально модель способна обрабатывать и 10 миллионов токенов.
Модель основана на архитектуре Mixture-of-Experts (это та архитектура, которая лежит в основе GPT-4), и умеет работать не только с текстом, но также с аудио и видео контентом.
Подробнее можно узнать в техническом докладе Google
Около минуты
15 февраля 2024