У меня была такая же проблема. Вы используете Docker Desktop для Windows? Потому что я был, и я обнаружил, что WSL2 + CUDA не работает с Docker Desktop для Windows:
https://forums.developer.nvidia.com/t/hiccups-setting-up-wsl2-cuda/128641
Вместо этого установите Docker вручную в WSL2 (как предлагается в руководстве, которое вы связали):
sudo apt update && sudo apt install -y nvidia-docker2
Затем убедитесь, что вы запустили службу docker:
sudo service docker start
После этого вы можете проверьте настройку CUDA / Docker / WSL2 следующим образом:
docker run --gpus all nvcr.io/nvidia/k8s/cuda-sample:nbody nbody -gpu -benchmark
Где вы должны увидеть такой вывод:
ПРИМЕЧАНИЕ. Примеры CUDA не предназначены для измерения производительности. Результаты могут отличаться, если включен режим GPU Boost.
Оконный режим Данные моделирования хранятся в видеопамяти Моделирование одинарной точности с плавающей запятой 1 Устройства, используемые для моделирования MapSMtoCores для SM 7.5, не определены. По умолчанию используется 64 ядра / SM GPU Устройство 0: «GeForce RTX 2060» с вычислительными возможностями 7,5
Compute 7.5 Устройство CUDA: [GeForce RTX 2060] 30720 корпусов, общее время для 10 итераций : 52,181 мс = 180,854 миллиарда взаимодействий в секунду = 3617,077 одинарной точности GFLOP / с при 20 флопах на взаимодействие