Я пытаюсь запустить код параллельно, используя параллельный Python, который складывает несколько чисел.Все работает нормально, за исключением того, что когда я повторяю код в цикле, он неизбежно останавливается (на моем компьютере) после 41 итерации из-за «ошибки слишком большого количества файлов».Я хорошо это изучил и нашел решение, которое работает, но делает код намного медленнее, чем если бы он работал не параллельно, что бесполезно.
import sys, time
import pp
import numpy
x = numpy.arange(-20.0,20.0,0.5)
k = numpy.arange(50)
grav = []
nswarm = 4
gravity = numpy.zeros([4,1])
print gravity
def function(raw_input,x,grav,k):
f = 0
for i in range(len(x)):
f+=1
a=raw_input[0]
b=raw_input[1]
c=raw_input[2]
d=raw_input[3]
grav.append((a+b+c+d)+f)
#return grav
jobsList = []
for i in range(len(k)):
# tuple of all parallel python servers to connect with
ppservers = ()
#ppservers = ("10.0.0.1",)
if len(sys.argv) > 1:
ncpus = int(sys.argv[1])
# Creates jobserver with ncpus workers
job_server = pp.Server(ncpus, ppservers=ppservers)
else:
# Creates jobserver with automatically detected number of workers
job_server = pp.Server(ppservers=ppservers)
#print "Starting pp with", job_server.get_ncpus(), "workers"
start_time = time.time()
# The following submits 4 jobs and then retrieves the results
puts = ([1,2,3,4], [3,2,3,4],[4,2,3,6],[2,3,4,5])
jobs = [(raw_input, job_server.submit(function,(raw_input,x,grav,k), (destroy,), ())) for raw_input in puts]
for raw_input, job in jobs:
r = job()
jobsList.append(r)
#print "Sum of numbers", raw_input, "is", r
#print "Time elapsed: ", time.time() - start_time, "s"
#job_server.print_stats()
#for job in jobsList:
#print job
#print jobsList
for n in numpy.arange(nswarm):
gravity[n] = jobsList[n]
del grav[0:len(grav)]
del jobsList[0:len(jobsList)]
#print gravity,'here'
print i
job_server.destroy()
Проблема в том, что слишком много раз перебирается "job_server" без должного закрытия серверов - я думаю, и добавление job_server.destroy()
было решением, которое, как я обнаружил, работает в том, что код выполняется дозавершение, но это действительно медленно.
Есть ли лучший способ закрыть серверы, чтобы код был достаточно быстрым?