Версии набора инструментов CUDA, API времени выполнения и его библиотек поддержки, и если вы создаете код API времени выполнения с заданной версией инструментария, вы должны отправить полученный код со всеми библиотеками из этой версии или попросить пользователей установить эту версию инструментария (иначе проблема тензорного потока).
Если вы используете API-интерфейс драйвера, то вы можете нацелиться на более низкие вычислительные возможности с PTX, которые могут быть обратно совместимы с другим драйвером. Я бы сказал, потому что все еще существуют ограничения поддержки версий PTX, которые могут помешать правильной работе.
Если вы хотите поддерживать более старые версии CUDA, просто установите более старую цепочку инструментов и соберите ее с помощью этого инструментария.