объединение нескольких подпроцессов - PullRequest
Новая
       7

объединение нескольких подпроцессов

11 голосов
/ 14 июня 2011

У меня есть 5 процессов p1,p2,...,p5, где я хочу записать некоторые данные в стандартный ввод p1, передать канал p1 в стандартный вывод p2 и, наконец, прочитать окончательный результат из вывода p5.

Что я пробовал до сих пор: 

p1 = Popen(['p1'], stdin=PIPE, stdout=PIPE)
p2 = Popen(['p2'], stdin=p1.stdout, stdout=PIPE)
...
p5 = Popen(['p5'], stdin=p4.stdout, stdout=PIPE)

# write data to stdin
p1.stdin.write(indata)
p1.stdin.close()

# not sure in what order to close the pipes here, if at all

# read output
out = p5.stdout.read()
print out

Последний отсканированный код просто зависает, потому что я должен неправильно выполнять операции чтения / записи.

Мне удалось получить работающие отдельные процессы, используя communicate() и два процесса, без добавления какого-либо ввода в первый (пример из документации по Python): 

output=`dmesg | grep hda`
==>
p1 = Popen(["dmesg"], stdout=PIPE)
p2 = Popen(["grep", "hda"], stdin=p1.stdout, stdout=PIPE)
p1.stdout.close()  # Allow p1 to receive a SIGPIPE if p2 exits.
output = p2.communicate()[0]

Но я не могу понять, как передать ввод первому процессу, не повесив интерпретатор.

Я мог бы также использовать сценарий bash для этого (который я уже написал и работает), но я хотел бы знать, как добиться того же с помощью Python.

Итак, я хотел бы спросить, как все это сделать правильно, в частности, в каком порядке выполнять операции чтения / записи / закрытия на каналах?

Я работаю над 64-битным Linux, если это имеет значение.

EDIT: я забыл упомянуть, что все процессы p1, .. p5 потребляют весь ввод данных, обрабатывают его, записывают в стандартный вывод и затем завершают работу. Таким образом, процессы, следующие в конвейере, не должны завершаться до того, как предыдущие закончили обработку.

EDIT2: я знаю, что я мог бы также использовать 

command = 'bash -c "p1 | p2 | p3 | p4 | p5"'
proc = Popen([command], shell=True)
out, err = proc.communicate(input=indata)
print out

но мой главный интерес - узнать, как связать каналы исключительно в коде Python.

1 Ответ

8 голосов
/ 14 июня 2011

Может быть, это может помочь: 

import sys
import tempfile
from subprocess import Popen, PIPE


cmd = [sys.executable, '-c', 'print raw_input()']

# Using a temp file to give input data to the subprocess instead of stdin.write to avoid deadlocks.
with tempfile.TemporaryFile() as f:
    f.write('foobar')
    f.seek(0)  # Return at the start of the file so that the subprocess p1 can read what we wrote.
    p1 = Popen(cmd, stdin=f, stdout=PIPE)

p2 = Popen(cmd, stdin=p1.stdout, stdout=PIPE)
p3 = Popen(cmd, stdin=p2.stdout, stdout=PIPE)

# No order needed.
p1.stdout.close()
p2.stdout.close()

# Using communicate() instead of stdout.read to avoid deadlocks. 
print p3.communicate()[0]

Выход: 

$ python test.py
foobar

Надеюсь, это может быть полезно.

...