Современную языковую модель с 26 млрд параметров запустили на списанном сервере HP StoreVirtual, которому около тринадцати лет. Внутри — два процессора Xeon E5-2690 v2 поколения Ivy Bridge, память DDR3 и ни одной видеокарты. Результат — примерно 5,2 токена в секунду при генерации текста и около 16 токенов в секунду при обработке запроса. Это не рекорд скорости. Зато прекрасная демонстрация того, сколько можно выжать из старого железа, если понимать архитектуру модели, устройство процессора и внутренности движка вывода...

Anthropic представила Claude Opus 5 — новую модель для программирования, исследований и сложной офисной работы. Главная новость здесь не в очередном рекорде на тестах. Компания утверждает, что модель стала заметно лучше проверять собственные решения, искать первопричины ошибок и доводить длинные задачи до результата без постоянной опеки человека. Иными словами, Claude пытаются превратить из очень умного собеседника в исполнителя, которому можно поручить кусок настоящей работы. Именно эта перемена, а не номер версии, кажется мне наиболее важной...