Найти в Дзене
Craft Homelab

TileLang — новый взгляд на высокопроизводительные ядра для GPU/CPU

TileLang — новый взгляд на высокопроизводительные ядра для GPU/CPU

Недавно наткнулся на крутой проект TileLang — это доменно-специфический язык программирования, который упрощает разработку суперэффективных вычислительных ядер, например, для матричных умножений и attention-механизмов. Главное — синтаксис похож на Python, так что писать удобно, а за кулисами идёт мощный компилятор на базе TVM.

Что интересно — поддерживаются топовые GPU, включая NVIDIA H100, AMD MI300X, и даже Huawei Ascend! Встроены функции для оптимизации кэша и параллелизма, плюс есть готовые примеры на популярные операции типа FlashAttention. Если любишь писать ускорители под AI нагрузки — это must-try.

Для старта есть простой pip install, а дальше можешь тестировать и профилировать прямо на GPU.

#GPU #AI #Программирование #Оптимизация #Python #ОpenSource #Компиляторы #ВысокаяСкорость

https://github.com/tile-ai/tilelang

https://vlad1kudelko.github.io