G-Force #1
Энтузиасты ускорили ИИ-вычисления на GeForce RTX 30 серии
Самое важное из мира IT — в канале MAX ⚡️ «Код.ру» Разработчик под ником Zagitta опубликовал модуль gpu-unlock для Linux, который снимает ограничение скорости некоторых ИИ-вычислений на видеокартах Nvidia GeForce RTX 30. Модуль загружается до драйвера Nvidia и меняет настройки скорости матричных операций с числами в форматах FP16 и BF16. Эти вычисления используются при работе нейросетей. Пользователь applepines сообщил, что на RTX 3090 Ti производительность в тесте умножения матриц BF16 выросла с 87,5 до 157,41 TFLOPS — примерно на 80%...