Alibaba изобретает будущее. В Китае острый дефицит GPU — Nvidia под санкциями, поставки душат, мощности не хватает. Но инженеры Alibaba нашли способ заменить тысячу видеокарт двумя сотнями. Новая система Aegaeon сокращает потребность в ускорителях на 82%, снижает задержки на 97% и заставляет один GPU работать сразу на семь моделей одновременно, переключаясь между ними буквально на уровне токенов. Хочешь жить — умей вертеться.. @lobushkin