Получение значений состояния выхода из GNU параллельно - PullRequest
Новая
       9

Получение значений состояния выхода из GNU параллельно

4 голосов
/ 10 июня 2011

Оболочка Perl ниже выполняет команды параллельно, сохраняя STDOUT и STDERR в файлы / tmp: 

open(A,"|parallel"); 
for $i ("date", "ls", "pwd", "factor 17") { 
  print A "$i 1> '/tmp/$i.out' 2> '/tmp/$i.err'\n"; 
} 
close(A);

Как получить значения состояния выхода из отдельных команд?

Ответы [ 4 ]

5 голосов
/ 10 июня 2011

Чтобы получить существующий статус отдельных заданий, parallel необходимо будет где-то записать информацию.Я не знаю, так ли это или нет.Если этого не произойдет, вы можете сделать это самостоятельно. 

my %jobs = (
   "date"   => "date",
   "ls"     => "ls",
   "pwd"    => "pwd",
   "factor" => "factor 17",
);

open(my $parallel, "|parallel"); 
for my $id (keys(%jobs)) {
   print $parallel
      $jobs{$id}
      ." 1> '/tmp/$id.out'"
      ." 2> '/tmp/$id.err' ; "
      ."echo \$?"
      ." > '/tmp/$id.exit'\n"; 
} 

close($parallel); 

my $exit_status = $? >> 8;
if ($exit_status >= 255) {
    print("Failed\n");
} else {
    printf("%d failed jobs\n", $exit_status);
}

for my $id (keys(%jobs)) {
    ...grab output and exit code from files...
}

Обновление : Я пошел и установил parallel.

У него есть опцияназывается --joblog {file}, который создает отчет с кодами выхода.Он принимает - для имени файла, если вы хотите, чтобы он выводился в STDOUT.

Обратите внимание, что parallel не распознает аварийную смерть по сигналу, поэтому он не включен в отчет --joblog.Используя решение, которое я разместил выше, отсутствующий файл .exit будет указывать на ненормальную смерть.(Вы должны убедиться, что он вообще не существует.)

3 голосов
/ 22 июля 2011

GNU Parallel 20110722 имеет значение выхода и сигнал в --joblog: 

parallel --joblog /tmp/log false ::: a
cat /tmp/log
Seq     Host    Starttime       Runtime Send    Receive Exitval Signal  Command
1       :       1311332758      0       0       0       1       0       false a
1 голос
/ 12 июня 2011

Если вы хотите избежать обертки, вы можете рассмотреть: 

cat foo | parallel "{} >\$PARALLEL_SEQ.out 2>\$PARALLEL_SEQ.err; echo \$? >\$PARALLEL_SEQ.status"

Версия 20110422 или новее делает его еще короче: 

cat foo | parallel "{} >{#}.out 2>{#}.err; echo \$? >{#}.status"

Если ваши строки не содержат ', то это тоже должно работать: 

cat foo | parallel "{} >'{}'.out 2>'{}'.err; echo \$? >'{}'.status"
0 голосов
/ 22 июля 2011

Вместо переноса parallel вы можете использовать любой из множества доступных модулей CPAN, обеспечивающих аналогичную функциональность.

Например: 

use Proc::Queue size => 10, qw(run_back);

my @pids;

for $i ("date", "ls", "pwd", "factor 17") {
  push @pids, run_back {
    open STDOUT, '>', '/tmp/$i.out';
    open STDERR, '>', '/tmp/$i.err';
    exec $i;
  }
}

for (@pids) {
  1 while waitfor($_, 0) <= 0;
  say "process $_ exit code: ", ($? >> 8);
}
...