"Путь к успеху начинается с первого шага". Даже для опытных пользователей процесс настройки окружения с PyTorch и CUDA может превратиться в настоящую головную боль, если нет четкого алгоритма. Поэтому описание порядка установки станет в центре внимания в данном материале.
Первый этап - сбор информации о видеокарте, поддерживаемой версии CUDA и ее установка (все этапы тестировал на Windows).
1) Инфо о видеокарте можно получить через браузер Chrome:
chrome://gpu/
2) Далее гуглим, какая версия CUDA поддерживается вашей видеокартой, и скачиваем с официального сайта (в моем случае - CUDA 11.8 взял тут) и устанавливаем. О подробностях инсталляции и CUDA можно почитать на том же ресурсе (в целом процесс не отличается от установки обычной программы).
3) Если не прописана переменная среды CUDA_PATH, то создаем ее с указанием на папку с CUDA:
4) Проверка
инфо о CUDA:
nvcc -V
+ мониторинг использования ГПУ:
nvidia-smi
5) Далее создаем виртуальное окружение (я делаю это с conda):
conda create -y --prefix D:/dev/envs/pytorch_env python=3.10
6) На сайте PyTorch берем команды инсталляции пакета и исполняем их:
для более старых + установка с conda
В моем случае сработали команды:
для cuda 11.8:
conda install pytorch==2.3.0 torchvision==0.18.0 torchaudio==2.3.0 pytorch-cuda=11.8 -c pytorch -c nvidia
для cuda 10.1:
pip install torch==1.8.1+cu101 torchvision==0.9.1+cu101torchaudio==0.8.1 -f https://download.pytorch.org/whl/torch_stable.html
conda install pytorch torchvision torchaudio cudatoolkit=10.1 -c pytorch
...
7) Проверяем доступность CUDA:
python -c "import torch;print(torch.cuda.is_available())"
8) Напоминаю команды создания kernel-а из действующего окружения для jupyter (подробнее писал тут):
pip install ipykernel
python -m ipykernel install --user --name имя_среды
Вот как выглядит результат nvidia-smi во время работы скрипта, использующего ГПУ: