реализация очереди заданий для python - PullRequest
13 голосов
/ 26 августа 2009

Вы знаете / используете какую-либо распределенную очередь заданий для python? Можете поделиться ссылками или инструментами

Ответы [ 9 ]

12 голосов
/ 22 июля 2010

Pyres - это клон, созданный в Python. Resque используется Github в качестве очереди сообщений. Оба используют Redis в качестве бэкенда очереди и предоставляют веб-приложение для мониторинга.

http://binarydud.github.com/pyres/intro.html

3 голосов
/ 26 августа 2009

Сильвен Хеллегуарх также может найти «бакер», который вы можете найти здесь:

Он описывает себя так:

  • bucker - это система очередей, которая поддерживает несколько хранилищ для очереди (пока memcached, Amazon SQS) и управляется XML-сообщениями, отправляемыми по TCP-соединениям между клиентом и сервером очереди.
3 голосов
/ 26 августа 2009

В дополнение к многопроцессорности есть также проект Celery , если вы используете Django.

2 голосов
/ 18 февраля 2012

Если вы считаете, что Celery слишком тяжел для ваших нужд, вы можете взглянуть на простую распределенную очередь задач:

2 голосов
/ 08 января 2010

redqueue? Он реализован в фреймворке python + tornado, говорит по протоколу memcached и, при желании, сохраняется в файлах журнала. В настоящее время он также может вести себя как beanstalkd, способ резервирования / удаления в протоколе memcache.

REDQUEUE

2 голосов
/ 26 августа 2009

Посмотрите на beanstalkd

1 голос
/ 22 июля 2010

Это год с опозданием или что-то в этом роде, но это то, что я взломал вместе, чтобы создать очередь процессов, выполняющих их только по X раз за разом. http://github.com/goosemo/job_queue

0 голосов
/ 21 сентября 2010

Также есть Unix 'на'

Для получения дополнительной информации: человек на

0 голосов
/ 26 августа 2009

Возможно, вы захотите взглянуть на очередь многопроцессорной обработки. Включенный в Python 2.6, получите его на PyPI для более ранних версий Python.

Стандартная библиотечная документация: http://docs.python.org/library/multiprocessing.html На PyPI: http://pypi.python.org/pypi/multiprocessing

...