Python слишком много подпроцессов? - PullRequest
0 голосов
/ 29 марта 2019

Я пытаюсь запустить много процессов Python на одной машине.

Вот фрагмент кода:

fout = open(path, 'w')
p = subprocess.Popen((python_path,module_name),stdout=fout,bufsize=-1)

После примерно 100 процессов я получаю сообщение об ошибке ниже:

enter image description here

Запуск на win 10 64 бит, Python 3.5. Любая идея, что это может быть? Уже пытались разделить начало (так что начинайте с двух скриптов), а также команду сна. После определенного количества процессов появляется ошибка. Любая идея, что это может быть? Большое спасибо за любую подсказку!

PS: Некоторый фон. Каждый процесс открывает соединения с базой данных, а также выполняет некоторые запросы, используя пакет запросов. Затем некоторые вычисления выполняются с использованием numpy, scipy и т. Д.

PPS: просто найдите это сообщение об ошибке: Ошибка загрузки DLL. Файл подкачки слишком мал для выполнения этой операции python (при вызове scipy)

1 Ответ

0 голосов
/ 29 марта 2019

Проблемы решены путем переустановки numpy и scipy + установка mkl.

Странно по поводу этой ошибки было то, что она появилась только после определенного числа процессов.Хотелось бы услышать, если кто-нибудь знает, почему это произошло!

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...