OpenMP и GSL RNG - проблема производительности - реализация в 4 потока в 10 раз медленнее, чем в последовательном (четырехъядерный процессор) - PullRequest
6 голосов
/ 29 марта 2012

Я пытаюсь превратить мой C-проект из последовательного в параллельное программирование. Хотя большая часть кода теперь была переработана с нуля для этой цели, генерация случайных чисел все еще лежит в основе. Таким образом, плохая производительность генератора случайных чисел (ГСЧ) очень сильно влияет на общую производительность программы.

Я написал несколько строк кода (см. Ниже), чтобы показать проблему, с которой я столкнулся, без особого многословия.

Проблема заключается в следующем: каждый раз, когда количество потоков не увеличивается, производительность становится заметно хуже. На этой рабочей станции (ядро Linux 2.6.33.4; gcc 4.4.4; четырехъядерный процессор Intel) параллельный цикл for занимает примерно в 10 раз больше времени для завершения с nt = 4, чем с nt = 1, независимо от количества итераций n.

Эта ситуация, кажется, описана здесь , но основное внимание уделяется фортрану, языку, о котором я очень мало знаю, поэтому я очень признателен за некоторую помощь.

Я пытался следовать их идее о создании разных ГСЧ (с разным начальным числом) для доступа к каждому потоку, но производительность по-прежнему очень плохая. На самом деле, эта отдельная точка высева для каждого потока также доставляет мне неприятности, потому что я не вижу, как можно гарантировать качество сгенерированных чисел в конце (отсутствие корреляций и т. Д.).

Я уже думал о том, чтобы вообще отказаться от GSL и реализовать алгоритм генератора случайных чисел (например, Mersenne-Twister), но я подозреваю, что позже я столкнусь с той же проблемой.

Большое спасибо заранее за ваши ответы и советы. Пожалуйста, спросите что-нибудь важное, что я, возможно, забыл упомянуть.

РЕДАКТИРОВАТЬ: Реализованы исправления, предложенные lucas1024 (объявление цикла for pragma) и JonathanDursi (заполнение; установка «a» в качестве закрытой переменной). Производительность в многопоточном режиме все еще очень низкая.

РЕДАКТИРОВАТЬ 2: Реализованное решение, предложенное Джонатаном Дурси (см. Комментарии).

    #include <stdio.h>
    #include <stdlib.h>
    #include <time.h>
    #include <gsl/gsl_rng.h>
    #include <omp.h>

    double d_t (struct timespec t1, struct timespec t2){

        return (t2.tv_sec-t1.tv_sec)+(double)(t2.tv_nsec-t1.tv_nsec)/1000000000.0;
    }

    int main (int argc, char *argv[]){

        double a, b;

        int i,j,k;

        int n=atoi(argv[1]), seed=atoi(argv[2]), nt=atoi(argv[3]);

        printf("\nn\t= %d", n);
        printf("\nseed\t= %d", seed);
        printf("\nnt\t= %d", nt);

        struct timespec t1, t2, t3, t4;

        clock_gettime(CLOCK_PROCESS_CPUTIME_ID, &t1);

        //initialize gsl random number generator
        const gsl_rng_type *rng_t;
        gsl_rng **rng;
        gsl_rng_env_setup();
        rng_t = gsl_rng_default;

        rng = (gsl_rng **) malloc(nt * sizeof(gsl_rng *));

            #pragma omp parallel for num_threads(nt)
        for(i=0;i<nt;i++){
            rng[i] = gsl_rng_alloc (rng_t);
            gsl_rng_set(rng[i],seed*i);
        }

        clock_gettime(CLOCK_PROCESS_CPUTIME_ID, &t2);

        for (i=0;i<n;i++){
            a = gsl_rng_uniform(rng[0]);
        }

        clock_gettime(CLOCK_PROCESS_CPUTIME_ID, &t3);

        omp_set_num_threads(nt);
        #pragma omp parallel private(j,a)
        {
            j = omp_get_thread_num();
            #pragma omp for
            for(i=0;i<n;i++){
                a = gsl_rng_uniform(rng[j]);
            }
        }

        clock_gettime(CLOCK_PROCESS_CPUTIME_ID, &t4);

        printf("\n\ninitializing:\t\tt1 = %f seconds", d_t(t1,t2));
        printf("\nsequencial for loop:\tt2 = %f seconds", d_t(t2,t3));
        printf("\nparalel for loop:\tt3 = %f seconds (%f * t2)", d_t(t3,t4), (double)d_t(t3,t4)/(double)d_t(t2,t3));
        printf("\nnumber of threads:\tnt = %d\n", nt);

        //free random number generator
        for (i=0;i<nt;i++)
            gsl_rng_free(rng[i]);
        free(rng);

        return 0;

    }

1 Ответ

4 голосов
/ 29 марта 2012

Проблема во второй строке #pragma omp.Первый #pragma omp порождает 4 потока.После этого вы должны просто сказать #pragma omp for, а не #pragma omp parallel for.

С текущим кодом, в зависимости от настроек вложенности omp, вы создаете потоки 4 x 4, которые делают то же самоеработать и получать доступ к одним и тем же данным.

...