Проблемы с памятью CUDA - PullRequest
Новая
       18

Проблемы с памятью CUDA

5 голосов
/ 14 ноября 2008

У меня есть ядро ​​CUDA, которое я собираю в файл cubin без каких-либо специальных флагов: 

nvcc text.cu -cubin

Компилируется, но с таким сообщением:

Рекомендация: невозможно определить, на что указывает указатель, если предположить, что пространство глобальной памяти

и ссылка на строку во временном файле cpp. Я могу заставить это работать, комментируя некоторый, казалось бы, произвольный код, который не имеет смысла для меня.

Ядро выглядит следующим образом: 

__global__ void string_search(char** texts, int* lengths, char* symbol, int* matches, int symbolLength)
{
    int localMatches = 0;
    int blockId = blockIdx.x + blockIdx.y * gridDim.x;
    int threadId = threadIdx.x + threadIdx.y * blockDim.x;
    int blockThreads = blockDim.x * blockDim.y;

    __shared__ int localMatchCounts[32];

    bool breaking = false;
    for(int i = 0; i < (lengths[blockId] - (symbolLength - 1)); i += blockThreads)
    {
        if(texts[blockId][i] == symbol[0])
        {
            for(int j = 1; j < symbolLength; j++)
            {
                if(texts[blockId][i + j] != symbol[j])
                {
                    breaking = true;
                    break;
                }
            }
            if (breaking) continue;
            localMatches++;
        }
    }

    localMatchCounts[threadId] = localMatches;

    __syncthreads();

    if(threadId == 0)
    {
        int sum = 0;
        for(int i = 0; i < 32; i++)
        {
            sum += localMatchCounts[i];
        }
        matches[blockId] = sum;
    }
}

Если я заменю строку 

localMatchCounts[threadId] = localMatches;

после первого цикла for с этой строкой 

localMatchCounts[threadId] = 5;

компилируется без уведомлений. Этого также можно добиться, закомментировав, казалось бы, случайные части цикла над линией. Я также попытался заменить массив локальной памяти обычным массивом безрезультатно. Может кто-нибудь сказать мне, в чем проблема?

Система Vista 64bit, для чего она стоит.

Редактировать: я исправил код, чтобы он действительно работал, хотя он по-прежнему выдает уведомление компилятора. Не похоже, что предупреждение является проблемой, по крайней мере, в отношении правильности (это может повлиять на производительность).

Ответы [ 2 ]

1 голос
/ 07 февраля 2009

Массивы указателей типа char ** проблематичны в ядрах, поскольку ядра не имеют доступа к памяти хоста.
Лучше выделить один непрерывный буфер и разделить его таким образом, чтобы обеспечить параллельный доступ.
В этом случае я бы определил одномерный массив, который содержит все строки, расположенные одна за другой, и другой одномерный массив размером 2 * numberOfStrings, который содержит смещение каждой строки в первом массиве и его длину:

Например - подготовка к ядру: 

char* buffer = st[0] + st[1] + st[2] + ....;
int* metadata = new int[numberOfStrings * 2];
int lastpos = 0;
for (int cnt = 0; cnt < 2* numberOfStrings; cnt+=2)
{
    metadata[cnt] = lastpos;
    lastpos += length(st[cnt]);
    metadata[cnt] = length(st[cnt]);
}
В ядре: 
currentIndex = threadId + blockId * numberOfBlocks;
char* currentString = buffer + metadata[2 * currentIndex];
int currentStringLength = metadata[2 * currentIndex + 1];
0 голосов
/ 18 ноября 2008

Проблема, похоже, связана с параметром char **. Превращение этого в символ * устраняет предупреждение, поэтому я подозреваю, что у cuda могут быть проблемы с этой формой данных. Возможно, cuda предпочитает, чтобы в этом случае использовались специальные массивы cuda 2D.

...