Многопроцессорный пул starmap_async зависает - PullRequest
0 голосов
/ 21 октября 2019

Я применяю функцию pool.starmap_async () в Python, чтобы распараллелить мой процесс через фиксированную функцию. После запуска около 150 итераций. Это застревает, и я не знаю почему. Работало менее 100 итераций. В основном функция construct_each_company () читает из нескольких таблиц в SQL и выводит 4 основные таблицы каждая.

    results = []
    results = pool.starmap_async(construct_each_company, [(tmpDF_forPeerGroup, i, start_str, end_str, date_generated) for i in range(0, len(tmpDF_forPeerGroup))]).get()

Вот журналы, когда я прерываю процесс, выполняя Command + C, поскольку он застревает и не 'кажется, больше не двигается. Пожалуйста, скажите мне, если бы вы знали, что происходит. Может ли быть проблема памяти и пространства?

enter image description here

...