Как избежать исключений нехватки памяти при использовании PLINQ? - PullRequest
4 голосов
/ 09 января 2012

Привет и спасибо за внимание!

Фон

У меня есть вычислительная задача, которая требует много времени или параллельных вычислений.

В частности, мне нужно перебрать список из примерно 50 изображений, закодировать их в Base64, а затем вычислить расстояние Левенштейна между каждым вновь закодированным элементом и значениями в файле XML, содержащем около 2000 изображений в кодировке Base64, чтобы найти строка в файле XML с наименьшим левом. Расстояние от эталонной строки.

Работает обычный цикл foreach, но он слишком медленный, поэтому я решил использовать PLINQ, чтобы использовать преимущества моего многоядерного процессора Core i7:

Parallel.ForEach(candidates, item => findImage(total,currentWinner,benchmark,item));

Задание начинается блестяще, мчится на высокой скорости, но затем я получаю исключение "Недостаточно памяти".

Я использую C #, .NET 4, приложение Forms.

Вопрос

Как настроить мой код PLINQ, чтобы у меня не было свободной памяти?

Обновление / Пример кода

Вот метод, который вызывается для инициирования PLINQ foreach:

private void btnGo_Click(object sender, EventArgs e)
{
    XDocument doc = XDocument.Load(@"C:\Foo.xml");
    var imagesNode = doc.Element("images").Elements("image"); //Each "image" node contains a Base64 encoded string.
    string benchmark = tbData.Text; //A Base64 encoded string.
    IEnumerable<XElement> candidates = imagesNode;

    currentWinner = 1000000; //Set the "Current" low score to a million and bubble lower scores into it's place iteratively.

    Parallel.ForEach(candidates, i => {
        dist = Levenshtein(benchmark, i.Element("score").Value);
        if (dist < currentWinner)
        {
            currentWinner = dist;
            path = i.Element("path").Value;
        }
    });
}

. , И вот метод расстояния Левенштейна:

public static int Levenshtein(string s, string t)    {
            int n = s.Length;
            int m = t.Length;
            var d = new int[n + 1, m + 1];

            // Step 1
            if (n == 0)
            {
                return m;
            }

            if (m == 0)
            {
                return n;
            }

            // Step 2
            for (int i = 0; i <= n; d[i, 0] = i++)
            {
            }

            for (int j = 0; j <= m; d[0, j] = j++)
            {
            }

            // Step 3
            for (int i = 1; i <= n; i++)
            {
                //Step 4
                for (int j = 1; j <= m; j++)
                {
                // Step 5
                int cost = (t[j - 1] == s[i - 1]) ? 0 : 1;

                // Step 6
                d[i, j] = Math.Min(
                    Math.Min(d[i - 1, j] + 1, d[i, j - 1] + 1),
                    d[i - 1, j - 1] + cost);
                }
            }
            // Step 7
            return d[n, m];
            }

Заранее спасибо!

1 Ответ

6 голосов
/ 09 января 2012

Обновление

Сегодня снова столкнулся с этой ошибкой при других обстоятельствах.Я работал над настольным приложением с высоким спросом на память.Убедитесь, что вы установили проект для 64-битной архитектуры для доступа ко всей доступной памяти.Мой проект был установлен на x86 по умолчанию, и я продолжал получать исключения из памяти.Конечно, это работает только в том случае, если вы можете рассчитывать на 64-разрядные процессоры для своего развертывания.

Завершение обновления

После небольшой попытки это кажется ошибкой оператора:

Я выполнял вызовы потока пользовательского интерфейса из параллельных потоков, чтобы обновить метки прогресса, но я не делал это безопасным для потоков способом.

Кроме того, я запускал приложение без отладчика., поэтому при каждом попытке кода обновить поток пользовательского интерфейса из параллельного потока, вызвавшего переполнение, возникло неперехваченное исключение.

Не будучи экспертом в PLINQ, я предполагаю, что он обрабатывает всеРаспределение уровней для вас, если вы не делаете глупую вонючую ошибку кода, подобную этой.

Надеюсь, это поможет кому-то еще.

...