Kenshi №20 Ядра ИИ. Отшельница Марина. День 163 - 170 в Кенши.
CUDA Agent: ИИ от ByteDance научился писать CUDA-ядра быстрее torch.compile
Большие языковые модели уже умеют генерировать корректный CUDA-код, но для практики этого недостаточно: ядра должны быть ещё и быстрыми. ByteDance Seed и Tsinghua AIR представили CUDA Agent — агентную систему обучения с подкреплением, которая помещает модель в реальную среду разработки, даёт ей профилировщик и проверки, а затем учит оптимизировать GPU-ядра итерация за итерацией. На тесте KernelBench система достигла 98,8% успешных запусков и в 96,8% случаев обошла `torch.compile`. Геометрическая средняя производительность относительно компилятора составила 2,11×...