Развитие глубокого обучения и машинного обучения привело к тому, что многие инженеры и исследователи освоили работу на GPU (графических процессорах), не обязательно обладая экспертным знанием CUDA. Такие фреймворки, как PyTorch, TensorFlow или JAX, абстрагируют большинство сложных моментов: нам достаточно вызвать методы вроде tensor.cuda(), и под капотом запускаются оптимизированные CUDA-ядра. Но что, если нужно добиться ещё большей производительности и гибкости? Тогда понимание основ CUDA-программирования выходит на передний план...

NVIDIA анонсировала поддержку языка программирования Python в своей новой версии CUDA под номером 11.3. Этот язык играет ключевую роль в экосистеме приложений для науки, техники, анализа данных и глубокого обучения...