Отключить двоичное кеширование для драйвера компилятора CUDA - PullRequest
Новая
       194

Отключить двоичное кеширование для драйвера компилятора CUDA

3 голосов
/ 24 апреля 2020

Я заметил, что время компиляции CUDA / OpenCL через драйвер компилятора (версия драйвера: 440.64 ) увеличивается в 10 раз быстрее после первой компиляции ядра. Таким образом, драйвер кэширует сгенерированный двоичный файл вместо компиляции каждый раз и извлекает его из кеша кода.

Есть ли способ ...

  1. отключить двоичное кэширование и принудительную компиляцию при каждом запуске?
  2. для доступа к информации о кешированных двоичных файлах?

1 Ответ

4 голосов
/ 24 апреля 2020

В соответствии с документацией Nvidia это можно решить с помощью параметров кэширования JIT. Совет CUDA Pro: понимание толстых двоичных файлов и кэширования JIT

  1. Экспорт следующей переменной среды предотвращает кэширование JIT и вызывает Компиляция при каждом запуске: export CUDA_CACHE_DISABLE=1
  2. Вкл. Linux Все файлы кэша хранятся в: ~/.nv/ComputeCache
...