атрибуты класса и память, совместно используемая процессами в пуле процессов? - PullRequest
Новая
       37

атрибуты класса и память, совместно используемая процессами в пуле процессов?

0 голосов
/ 26 августа 2018

У меня есть класс A, который при инициации изменяет атрибут изменяемого класса nums.

при запуске класса через пул процессов с maxtasksperchild= 1,Я замечаю, что nums имеет значения нескольких разных процессов.что является нежелательным поведением для меня.

мои вопросы:

  • процессы разделяют память?
  • я не правильно понимаю maxtasksperchild и работу пула процессов правильно?

EDIT : Я предполагаю, что пул выбирает предыдущие процессы, которые он запустил (а не исходный), и, таким образом, сохраняет значения nums, это правильно?и если да, то как я могу заставить его использовать оригинальный процесс?

вот пример кода: 

from multiprocessing import Pool


class A:
    nums = []

    def __init__(self, num=None):
        self.__class__.nums.append(num)  # I use 'self.__class__' for the sake of explicitly
        print(self.__class__.nums)
        assert len(self.__class__.nums) < 2  # checking that they don't share memory


if __name__ == '__main__':
    with Pool(maxtasksperchild=1) as pool:
        pool.map(A, range(99))  # the assert is being raised

РЕДАКТИРОВАТЬ из-за ответа k.wahome: использование атрибутов экземпляра не отвечает на мой вопрос, мне нужно использовать атрибуты класса, потому что в моем исходном коде (не показан здесь) у меня есть несколько экземпляров на процесс.мой вопрос конкретно о работе многопроцессорного пула.

кстати, выполнение следующих действий 

from multiprocessing import Process

if __name__ == '__main__':
    prs = []
    for i in range(99):
        pr = Process(target=A, args=[i])
        pr.start()
        prs.append(pr)
    [pr.join() for pr in prs]
# the assert was not raised

Ответы [ 2 ]

0 голосов
/ 30 августа 2018

У вашего наблюдения есть другая причина. Значения в nums взяты не из других процессов, а из того же самого процесса , когда он начинает размещать несколько экземпляров A. Это происходит потому, что вы не установили chunksize в 1 в вашем pool.map - вызов. Установка maxtasksperchild=1 в вашем случае недостаточна, потому что одна задача по-прежнему потребляет целую часть итерируемого.

Этот метод разбивает итерируемое на несколько кусков, которые он отправляет в пул процессов как отдельные задачи. (Приблизительный) размер этих чанков можно указать, установив для chunksize положительное целое число. документы о карте

0 голосов
/ 26 августа 2018

Скорее всего, общий доступ поступает через сопоставленный класс A с атрибутом класса nums.

Атрибуты класса связаны с классом и, следовательно, принадлежат самому классу, создаются при загрузке класса и будут доступны всем экземплярам. Все объекты будут иметь одну и ту же ссылку в памяти на атрибут класса.

В отличие от атрибутов класса, атрибуты экземпляра привязаны к экземпляру и не используются разными экземплярами. Каждый экземпляр имеет свою собственную копию атрибута экземпляра.

См. Эффект атрибута класса против экземпляра:

1. Использование nums в качестве атрибута класса class_num.py 

from multiprocessing import Pool


class A:
nums = []

def __init__(self, num=None):
    # I use 'self.__class__' for the sake of explicitly
    self.__class__.nums.append(num)
    print("nums:", self.__class__.nums)
    # checking that they don't share memory
    assert len(self.__class__.nums) < 2


if __name__ == '__main__':
with Pool(maxtasksperchild=1) as pool:
    print(pool)
    pool.map(A, range(99))  # the assert is being raised

Запуск этого скрипта 

>>> python class_num.py
nums: [0]
nums: [0, 1]
nums: [4]
nums: [4, 5]
nums: [8]
nums: [8, 9]
nums: [12]
nums: [12, 13]
nums: [16]
nums: [16, 17]
nums: [20]
nums: [20, 21]
nums: [24]
nums: [24, 25]
nums: [28]
nums: [28, 29]
nums: [32]
nums: [32, 33]
nums: [36]
nums: [36, 37]
nums: [40]
nums: [40, 41]
nums: [44]
nums: [44, 45]
nums: [48]
nums: [48, 49]
nums: [52]
nums: [52, 53]
nums: [56]
nums: [56, 57]
nums: [60]
nums: [60, 61]
nums: [64]
nums: [64, 65]
nums: [68]
nums: [68, 69]
nums: [72]
nums: [72, 73]
nums: [76]
nums: [76, 77]
nums: [80]
nums: [80, 81]
nums: [84]
nums: [84, 85]
nums: [88]
nums: [88, 89]
nums: [92]
nums: [92, 93]
nums: [96]
nums: [96, 97]
multiprocessing.pool.RemoteTraceback: 
"""
Traceback (most recent call last):
  File "/usr/local/Cellar/python3/3.6.1/Frameworks/Python.framework/Versions/3.6/lib/python3.6/multiprocessing/pool.py", line 119, in worker
    result = (True, func(*args, **kwds))
  File "/usr/local/Cellar/python3/3.6.1/Frameworks/Python.framework/Versions/3.6/lib/python3.6/multiprocessing/pool.py", line 44, in mapstar
    return list(map(*args))
  File "class_num.py", line 12, in __init__
    assert len(self.__class__.nums) < 2
AssertionError
"""

The above exception was the direct cause of the following exception:

Traceback (most recent call last):
  File "class_num.py", line 18, in <module>
    pool.map(A, range(99))  # the assert is being raised
  File "/usr/local/Cellar/python3/3.6.1/Frameworks/Python.framework/Versions/3.6/lib/python3.6/multiprocessing/pool.py", line 260, in map
    return self._map_async(func, iterable, mapstar, chunksize).get()
  File "/usr/local/Cellar/python3/3.6.1/Frameworks/Python.framework/Versions/3.6/lib/python3.6/multiprocessing/pool.py", line 608, in get
    raise self._value
AssertionError

2. Использование nums в качестве атрибута экземпляра instance_num.py 

from multiprocessing import Pool


class A:

    def __init__(self, num=None):
        self.nums = []
        if num is not None:
            self.nums.append(num)
        print("nums:", self.nums)
        # checking that they don't share memory
        assert len(self.nums) < 2


if __name__ == '__main__':
    with Pool(maxtasksperchild=1) as pool:
        pool.map(A, range(99))  # the assert is being raised

Запуск этого скрипта 

>>> python instance_num.py
nums: [0]
nums: [1]
nums: [2]
nums: [3]
nums: [4]
nums: [5]
nums: [6]
nums: [7]
nums: [8]
nums: [9]
nums: [10]
nums: [11]
nums: [12]
nums: [13]
nums: [14]
nums: [15]
nums: [16]
nums: [17]
nums: [18]
nums: [19]
nums: [20]
nums: [21]
nums: [22]
nums: [23]
nums: [24]
nums: [25]
nums: [26]
nums: [27]
nums: [28]
nums: [29]
nums: [30]
nums: [31]
nums: [32]
nums: [33]
nums: [34]
nums: [35]
nums: [36]
nums: [37]
nums: [38]
nums: [39]
nums: [40]
nums: [41]
nums: [42]
nums: [43]
nums: [44]
nums: [45]
nums: [46]
nums: [47]
nums: [48]
nums: [49]
nums: [50]
nums: [51]
nums: [52]
nums: [53]
nums: [54]
nums: [55]
nums: [56]
nums: [57]
nums: [58]
nums: [59]
nums: [60]
nums: [61]
nums: [62]
nums: [63]
nums: [64]
nums: [65]
nums: [66]
nums: [67]
nums: [68]
nums: [69]
nums: [70]
nums: [71]
nums: [72]
nums: [73]
nums: [74]
nums: [75]
nums: [76]
nums: [77]
nums: [78]
nums: [79]
nums: [80]
nums: [81]
nums: [82]
nums: [83]
nums: [84]
nums: [85]
nums: [86]
nums: [87]
nums: [88]
nums: [89]
nums: [90]
nums: [91]
nums: [92]
nums: [93]
nums: [94]
nums: [95]
nums: [96]
nums: [97]
nums: [98]
...