Как разделить задачи Python по сети - PullRequest
5 голосов
/ 30 мая 2011

У меня есть программа на Python, которая выполняет несколько независимых и трудоемких процессов.Код Python, как правило, является автоматическим и вызывает несколько командных файлов через popen.

В настоящее время программа занимает несколько часов, поэтому я хотел бы разделить ее на несколько машин.Как я могу разделить задачи для обработки параллельно с Python через сеть интрасети?

Ответы [ 3 ]

5 голосов
/ 30 мая 2011

Существует много платформ параллелизации Python.Всего два варианта:

  • Средства параллельных вычислений IPython

  • Каркас распараллеливания jug

0 голосов
/ 30 мая 2011

Я мог бы предложить STAF . Он рекламируется как среда тестирования программного обеспечения, но позволяет распределять действия между несколькими компьютерами (и несколькими платформами). Вы можете запускать сценарии, копировать данные и легко общаться между несколькими сеансами. Более того, его довольно легко интегрировать с уже существующими сценариями.

0 голосов
/ 30 мая 2011

Для удаленного выполнения вы можете использовать execnet . Вы тоже должны распространять данные?

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...