NVIDIA поддерживает API для запроса состояния экосистемы CUDA из пользовательского кода, называемого NVML (библиотека управления NVIDIA).
Мне неизвестны какие-либо привязки Python для API, но было бы не сложно использовать его с помощью выбранного вами метода (например, this или this ). Вам нужно будет опросить, он не поддерживает передачу сигналов. Я предполагаю, что nvidia-smi использует NVML для внутреннего использования.
Я не верю, что существует какой-либо API-интерфейс пространства пользователя Linux, который позволял бы уведомлять о создании нового процесса, включенном CUDA или другом.