OpenCV может быть скомпилирован с поддержкой GPU с использованием CUDA. Некоторые методы, такие как извлечение точек SURF, имеют реализацию gpu. См. здесь для получения дополнительной информации.
Чтобы использовать поддержку GPU, вам необходимо установить CUDA и скомпилировать исходный код OpenCV с флагом USE_CUDA, установленным в CMake.