5. Плюс обещают 12 млн токенов контекста и «безумные» результаты на бенчмарках. Если это правда, рынок LLM может сильно тряхнуть. Потому что такая модель бьет сразу в самое больное место frontier AI: скорость, цену и длинный контекст. Но пока это звучит слишком красиво. Когда стартап говорит «мы быстрее Anthropic и OpenAI, дешевле в 20 раз и еще держим 12M context»,...

✔️ Anthropic обсуждает закупку чипов у Fractile Компания Дарио Амодея ведёт переговоры с британским стартапом Fractile о закупке чипов для инференса. Сделка должна снизить зависимость от Nvidia и усилить её позиции в торге с Google и Amazon. Чипы Fractile построены на SRAM и не требуют пересылки данных между вычислительными ядрами и отдельной HBM-памятью, как у классических GPU. По заявлению стартапа, это даёт выигрыш на инференсе готовых моделей. Похожий подход - у Cerebras и Groq. Переговоры на ранней стадии, сумма контракта не раскрывается...

Meta, владелец таких популярных платформ, как Facebook и Instagram, активно занимается разработкой инструментов искусственного интеллекта. На предстоящем мероприятии Connect 2024, которое состоится в сентябре, компания планирует представить свой новый амбициозный проект — AI Voice. Проект AI Voice направлен на использование голосов знаменитостей и представителей различных индустрий. Meta ведет переговоры с известными личностями о многократном использовании их голосов на фиксированный период времени...