Найти в Дзене
Pro Hi-Tech

Команда ZLUDA представила пятую версию своего проекта, который позволяет запускать CUDA-программы на GPU не от NVIDIA

Команда ZLUDA представила пятую версию своего проекта, который позволяет запускать CUDA-программы на GPU не от NVIDIA. Обновление принесло улучшенную корректность исполнения, новые инструменты отладки и первую совместимость с фреймворками машинного обучения, включая llama.cpp и частично llm.c. Теперь CUDA-бэкенд llama.cpp способен работать на ZLUDA, показывая производительность на уровне ROCm.

Главное нововведение — утилита zluda_trace для сбора трассировок и автономный компилятор zoc, преобразующий PTX-код NVIDIA в RDNA-ассемблер. Также добавлено кэширование модулей PTX, базовая поддержка библиотек cuBLAS, nvml и улучшенная интеграция с PyTorch через библиотеку zluda_ld. В команде отмечают, что проект достиг побитовой точности вычислений в большинстве операций CUDA, а предварительные сборки теперь публикуются автоматически после каждого обновления на GitHub.