Matlab читает большой файл асинхронно во время работы parfor - PullRequest
0 голосов
/ 13 июня 2019

У меня большие файлы данных, загрузка которых занимает около минуты.Затем обработка данных в цикле parfor занимает около минуты.Есть ли способ прочитать файл асинхронно, пока parfor выполняет свою работу с предыдущими данными.Я попытался использовать parfeval , но затем цикл parfor выдает ошибку о блокировке SPMD, что работник занят.

РЕДАКТИРОВАТЬ

В основном мне нужен следующий псевдомател-код:

% start a file reading thread using a pollable queue
% read_files_async uses parfeval to read one file at a time
queue = read_files_async(files);

% analyze the data
for i in 1:length(files)
    data = queue(i);
    parfor j=1:length(data)
      % process the data
    end
    % by the time parfor is done queue will have next data ready
end
...