Мой графический код, ускоренный с помощью opencv, работает медленнее, чем обычный opencv - PullRequest
Новая
       9

Мой графический код, ускоренный с помощью opencv, работает медленнее, чем обычный opencv

2 голосов
/ 08 февраля 2020

Я скопировал два примера из книги «Практическое компьютерное зрение с ускорением на GPU с OpenCV и CUDA», чтобы сравнить производительность CPU и GPU.

1-й код: 

    cv::Mat src = cv::imread("D:/Pics/Pen.jpg", 0); // Pen.jpg is a 4096 * 4096 GrayScacle picture.
    cv::Mat result_host1, result_host2, result_host3, result_host4, result_host5;

    //Get initial time in miliseconds
    int64 work_begin = getTickCount();
    cv::threshold(src, result_host1, 128.0, 255.0, cv::THRESH_BINARY);
    cv::threshold(src, result_host2, 128.0, 255.0, cv::THRESH_BINARY_INV);
    cv::threshold(src, result_host3, 128.0, 255.0, cv::THRESH_TRUNC);
    cv::threshold(src, result_host4, 128.0, 255.0, cv::THRESH_TOZERO);
    cv::threshold(src, result_host5, 128.0, 255.0, cv::THRESH_TOZERO_INV);

    //Get time after work has finished     
    int64 delta = getTickCount() - work_begin;
    //Frequency of timer
    double freq = getTickFrequency();
    double work_fps = freq / delta;
    std::cout << "Performance of Thresholding on CPU: " << std::endl;
    std::cout << "Time: " << (1 / work_fps) << std::endl;
    std::cout << "FPS: " << work_fps << std::endl;
    return 0;

2-й код: 

    cv::Mat h_img1 = cv::imread("D:/Pics/Pen.jpg", 0);  // Pen.jpg is a 4096 * 4096 GrayScacle picture.
    cv::cuda::GpuMat d_result1, d_result2, d_result3, d_result4, d_result5, d_img1;
    //Measure initial time ticks
    int64 work_begin = getTickCount();
    d_img1.upload(h_img1);
    cv::cuda::threshold(d_img1, d_result1, 128.0, 255.0, cv::THRESH_BINARY);
    cv::cuda::threshold(d_img1, d_result2, 128.0, 255.0, cv::THRESH_BINARY_INV);
    cv::cuda::threshold(d_img1, d_result3, 128.0, 255.0, cv::THRESH_TRUNC);
    cv::cuda::threshold(d_img1, d_result4, 128.0, 255.0, cv::THRESH_TOZERO);
    cv::cuda::threshold(d_img1, d_result5, 128.0, 255.0, cv::THRESH_TOZERO_INV);

    cv::Mat h_result1, h_result2, h_result3, h_result4, h_result5;
    d_result1.download(h_result1);
    d_result2.download(h_result2);
    d_result3.download(h_result3);
    d_result4.download(h_result4);
    d_result5.download(h_result5);
    //Measure difference in time ticks
    int64 delta = getTickCount() - work_begin;
    double freq = getTickFrequency();
    //Measure frames per second
    double work_fps = freq / delta;
    std::cout << "Performance of Thresholding on GPU: " << std::endl;
    std::cout << "Time: " << (1 / work_fps) << std::endl;
    std::cout << "FPS: " << work_fps << std::endl;
    return 0;

Все в порядке, кроме:

«Скорость графического процессора меньше, чем у процессора»

1-й результат: 

    Performance of Thresholding on CPU:
    Time: 0.0475497 
    FPS: 21.0306

2-й результат: 

    Performance of Thresholding on GPU:
    Time: 0.599032
    FPS: 1.66936

Затем я решил отозвать время загрузки и скачивания:

3-й код: 

    cv::Mat h_img1 = cv::imread("D:/Pics/Pen.jpg", 0);  // Pen.jpg is a 4096 * 4096 GrayScacle picture.
    cv::cuda::GpuMat d_result1, d_result2, d_result3, d_result4, d_result5, d_img1;
    d_img1.upload(h_img1);
    //Measure initial time ticks
    int64 work_begin = getTickCount();
    cv::cuda::threshold(d_img1, d_result1, 128.0, 255.0, cv::THRESH_BINARY);
    cv::cuda::threshold(d_img1, d_result2, 128.0, 255.0, cv::THRESH_BINARY_INV);
    cv::cuda::threshold(d_img1, d_result3, 128.0, 255.0, cv::THRESH_TRUNC);
    cv::cuda::threshold(d_img1, d_result4, 128.0, 255.0, cv::THRESH_TOZERO);
    cv::cuda::threshold(d_img1, d_result5, 128.0, 255.0, cv::THRESH_TOZERO_INV);
    //Measure difference in time ticks
    int64 delta = getTickCount() - work_begin;
    double freq = getTickFrequency();
    //Measure frames per second
    double work_fps = freq / delta;
    std::cout << "Performance of Thresholding on GPU: " << std::endl;
    std::cout << "Time: " << (1 / work_fps) << std::endl;
    std::cout << "FPS: " << work_fps << std::endl;

    cv::Mat h_result1, h_result2, h_result3, h_result4, h_result5;
    d_result1.download(h_result1);
    d_result2.download(h_result2);
    d_result3.download(h_result3);
    d_result4.download(h_result4);
    d_result5.download(h_result5);
    return 0;

Но, проблема остается :

3-й результат: 

Performance of Thresholding on GPU: 
Time: 0.136095
FPS: 7.34779

Я запутался с этой проблемой. 

         1st         2nd         3rd
         CPU         GPU         GPU
Time: 0.0475497   0.599032    0.136095
FPS:  21.0306     1.66936     7.34779

Пожалуйста, помогите me.

Характеристики GPU: 

*********************************************************
NVIDIA Quadro K2100M

Micro architecture: Kepler

Compute capability version: 3.0

CUDA Version: 10.1
*********************************************************

Характеристики моей системы: 

*********************************************************
laptop hp ZBook

CPU: Intel(R) Core(TM) i7-4910MQ CPU @ 2.90GHz 2.90 GHZ

RAM: 8.00 GB

OS: Windows 7, 64-bit, Ultimate, Service Pack 1
*********************************************************

1 Ответ

4 голосов
/ 08 февраля 2020

Я могу вспомнить 2 причины, по которым версия ЦП работает быстрее даже без операций с памятью:

1. во 2-й и 3-й версиях кода вы объявляете результат GpuMats, но не делаете Фактически их инициализация, инициализация результата GpuMats будет происходить внутри порогового метода путем вызова GpuMat.create, это приводит к выделению 80 МБ памяти GPU для каждого выполнения, вы можете увидеть «улучшение производительности», инициализируя результат GpuMats один раз, а затем использовать их снова. С исходным 3-м кодом я получаю следующие результаты (Geforce RTX 2080):

Время: 0,010208 FPS: 97,9624

Когда я изменяю код для: 

...
d_resut1.create(h_img1.size(), CV_8UC1);
d_result2.create(h_img1.size(), CV_8UC1);
d_result3.create(h_img1.size(), CV_8UC1);
d_result4.create(h_img1.size(), CV_8UC1);
d_result5.create(h_img1.size(), CV_8UC1);
d_img1.upload(h_img1);
//Measure initial time ticks
int64 work_begin = getTickCount();
cv::cuda::threshold(d_img1, d_result1, 128.0, 255.0, cv::THRESH_BINARY);
cv::cuda::threshold(d_img1, d_result2, 128.0, 255.0, cv::THRESH_BINARY_INV);
cv::cuda::threshold(d_img1, d_result3, 128.0, 255.0, cv::THRESH_TRUNC);
cv::cuda::threshold(d_img1, d_result4, 128.0, 255.0, cv::THRESH_TOZERO);
cv::cuda::threshold(d_img1, d_result5, 128.0, 255.0, cv::THRESH_TOZERO_INV);
...

Я получаю следующие результаты (в 2 раза лучше) Время: 0.00503374 FPS: 198.659

Пока результат GpuMat предварительно -allocation обеспечивает значительный прирост производительности, такая же модификация для версии процессора - нет.

2. K2100M не очень сильный GPU (576 ядер при 665 МГц) и требует учитывая, что OpenCV, вероятно, (в зависимости от того, как вы его скомпилировали) использует многопоточность с SIMD-инструкциями под капотом для версии CPU (2.90 ГГц с 8-ю виртуальными ядрами), результаты не столь удивительны

Редактировать: Профилируя приложение с помощью систем NVIDIA Nsight, вы сможете лучше понять штрафы операций с памятью на графическом процессоре: Application profiling

Как видите, только выделение и освобождение памяти занимает 10,5 мс, а пороговое значение Сама г занимает всего 5 мс

...