Различные версии CUDA, представленные nvcc и NVIDIA-smi

Question

Меня очень смущают различные версии CUDA, показанные при запуске which nvcc и nvidia-smi.

. У меня установлены и cuda9.2, и cuda10, установленные на моем Ubuntu 16.04.Теперь я установил PATH так, чтобы он указывал на cuda9.2.Поэтому, когда я запускаю:

 $ which nvcc
 /usr/local/cuda-9.2/bin/nvcc

Однако, когда я запускаю

$ nvidia-smi
Wed Nov 21 19:41:32 2018       
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 410.72       Driver Version: 410.72       CUDA Version: 10.0     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|===============================+======================+======================|
|   0  GeForce GTX 106...  Off  | 00000000:01:00.0 Off |                  N/A |
| N/A   53C    P0    26W /  N/A |    379MiB /  6078MiB |      2%      Default |
+-------------------------------+----------------------+----------------------+

+-----------------------------------------------------------------------------+
| Processes:                                                       GPU Memory |
|  GPU       PID   Type   Process name                             Usage      |
|=============================================================================|
|    0      1324      G   /usr/lib/xorg/Xorg                           225MiB |
|    0      2844      G   compiz                                       146MiB |
|    0     15550      G   /usr/lib/firefox/firefox                       1MiB |
|    0     19992      G   /usr/lib/firefox/firefox                       1MiB |
|    0     23605      G   /usr/lib/firefox/firefox                       1MiB |

Поэтому я использую cuda9.2, как подсказывает which nvcc, или я использую cuda10, как nvidia-smiпредполагает?

Я видел этот ответ но он не дает прямого ответа на путаницу, он просто просит нас переустановить cudatoolkit, что я уже сделал.

Answer 1

nvcc находится в папке bin CUDA - таким образом, проверьте, была ли добавлена ​​папка bin CUDA к вашему $PATH.

В частности, убедитесь, что вы выполнили действия CUDA Post-Installation.(например, от здесь ):

1. Добавьте корзину CUDA к $PATH (т.е. добавьте следующую строку в ваш ~/.bashrc)

export PATH=/usr/local/cuda-10.1/bin:/usr/local/cuda-10.1/NsightCompute-2019.1${PATH:+:${PATH}}

PS.Сначала убедитесь, что следующие два пути существуют: /usr/local/cuda-10.1/bin и /usr/local/cuda-10.1/NsightCompute-2019.1 (путь NsightCompute может иметь немного другое окончание в зависимости от установленной версии Nsight compute ...

Обновление $LD_LIBRARY_PATH (т. Е. Добавьте следующую строку в ~/bashrc).

export LD_LIBRARY_PATH=/usr/local/cuda-10.1/lib64\
                         ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

После этого отчет nvcc и nvidia-smi (или nvtop)та же версия CUDA ...

Answer 2

CUDA имеет 2 основных API, среду выполнения и драйвер API.Оба имеют соответствующую версию (например, 8.0, 9.0 и т. Д.)

Необходимая поддержка API драйвера (например, libcuda.so в linux) устанавливается установщиком драйвера GPU.

необходимая поддержка для API времени выполнения (например, libcudart.so в linux, а также nvcc) устанавливается установщиком инструментария CUDA (в него также может быть включен установщик драйвера GPU).

В любом случае(установленная) версия API драйвера может не всегда соответствовать (установленной) версии API среды выполнения, особенно если вы устанавливаете драйвер графического процессора независимо от установки CUDA (т.е. инструментария CUDA).

Инструмент nvidia-smi устанавливается установщиком драйвера графического процессора и, как правило, имеет в виду драйвер графического процессора, а не все, что устанавливается установщиком инструментария CUDA.

В последнее время (где-то между 410.48 и 410.73версия драйвера для Linux) Власти NVIDIA решили добавить отчет о версии драйвера CUDA Driver, установленной драйвером, в вывод из nvidia-smi.

Это не связано с установленной версией среды выполнения CUDA.

nvcc, инструмент драйвера компилятора CUDA, который устанавливается вместе с инструментарием CUDA, всегда будет сообщать версию среды CUDA, что онбыл построен, чтобы распознать.Он ничего не знает о том, какая версия драйвера установлена, или даже если установлен драйвер графического процессора.

Поэтому, по замыслу, эти два числа не обязательно совпадают, так как они отражают две разные вещи.