Широкий В.Р. - Машинное обучение в физике - 14. Нейронные сети. Библиотека pyTorch
NVIDIA показала CPO-switch, сделанный вместе с Lambda
CPO, или co-packaged optics, переносит оптическую связь ближе к главному сетевому чипу. Путь сигнала становится короче, потерь меньше, энергопотребление ниже, а потенциальных точек отказа меньше. NVIDIA объясняет это через экономику токенов: сеть сама токены не генерирует, но без неё GPU простаивают. Чем больше энергии и сбоев в сети, тем дороже каждый токен. Для масштаба:...