Cегодня презентовали новый чип Sohu от стартапа Etched для тренировки и работы нейросетей, который убьет Nvidia.
Sohu в 20 раз мощнее аналогичного Nvidia H100, при этом быстрее и дешевле. GPT-4 тренировали на 8 тыс. H100, теперь для этого хватило бы всего 400 Sohu.
Скорость генерации — 500 тысяч токенов в секунду. Чтобы повторить Библию, любой нейронке понадобится лишь 2 секунды.