IT House News 11 июня, сегодня (11 июня) Google опубликовал объявление, объявляющее о запуске DiffusionGemma, открытой модели искусственного интеллекта, основанной на механизме распространения текста. По сравнению с авторегрессионной моделью скорость локального вывода увеличивается в 4 раза. Примечание от IT House: Модель авторегрессии — это текущая основная архитектура модели большого языка (например, GPT, Gemini), которая генерирует токены один за другим в порядке слева направо. Эта архитектура очень эффективна в сценариях пакетной обработки в облаке, но ограничена пропускной способностью памяти во время локального вывода, что приводит к пустой трате вычислительных ресурсов. Подписывайтесь на t.me/chinese_ai_news и dzen.ru/chinese_ai
IT House News 11 июня, сегодня (11 июня) Google опубликовал объявление, объявляющее о запуске DiffusionGemma, открытой модели искусственного интеллекта, основанной на механизме распространения текста. По сравнению с авторегрессионной моделью скорость локального вывода увеличивается в 4 раза.
Примечание от IT House: Модель авторегрессии — это текущая основная архитектура модели большого языка (например, GPT, Gemini), которая генерирует токены один за другим в порядке слева направо. Эта архитектура очень эффективна в сценариях пакетной обработки в облаке, но ограничена пропускной способностью памяти во время локального вывода, что приводит к пустой трате вычислительных ресурсов.
Подписывайтесь на t.me/chinese_ai_news и dzen.ru/chinese_ai
