Необычное время для выделения и копирования массива Numpy - PullRequest
0 голосов
/ 16 декабря 2018

Недавно я обнаружил проблему с выделением и копированием массивов Numpy:

Распределение массива занимает постоянное время (относительно размера массива);копирование содержимого другого массива в выделенный массив также занимает некоторое время, которое увеличивается с увеличением размера массива.Однако проблема заключается в том, что время, затраченное на выполнение обеих операций, выделение и копирование, составляет , а не просто сумма времени для любой из операций (см. рисунок ниже):

t(allocation + copy) > t(allocation) + t(copy).

Я не вижу причины истечения дополнительного времени (которое быстро увеличивается с увеличением размера).

Numpy allocation + copy

Вот код, который я использовал для определения времени.Синхронизация выполняется в Debian Stretch с процессором Intel Core i3 (2,13 ГГц).

import numpy as np
import gc
from timeit import default_timer as timer
import matplotlib.pyplot as plt

def time_all(dim1):
   N_TIMES = 10
   shape = (dim1, dim1)
   data_1 = np.empty(shape, np.int16)
   data_2 = np.random.randint(0, 2**14, shape, np.int16)

   # allocate array
   t1 = timer()
   for _ in range(N_TIMES):
      data_1 = np.empty(shape, np.int16)
   alloc_time = (timer() - t1) / N_TIMES

   # copy array
   t1 = timer()
   for _ in range(N_TIMES):
      data_1[:] = data_2
   copy_time = (timer() - t1) / N_TIMES

   # allocate & copy array 
   t1 = timer()
   for _ in range(N_TIMES):
      data_3 = np.empty(shape, np.int16)
      np.copyto(data_3, data_2)
   alloc_copy_time = (timer() - t1) / N_TIMES

   return alloc_time, copy_time, alloc_copy_time
#END def

# measure elapsed times
gc.disable() # disable automatic garbage collection
times_elapsed = np.array([(size, ) + time_all(size)
                for size in np.logspace(2, 14, 1<<8,
                endpoint=True, base=2, dtype=int)])
gc.enable()

# plot results
plt.plot(times_elapsed[:,0], times_elapsed[:,1], marker='+', lw=0.5, label="alloc")
plt.plot(times_elapsed[:,0], times_elapsed[:,2], marker='+', lw=0.5, label="copy")
plt.plot(times_elapsed[:,0], times_elapsed[:,3], marker='+', lw=0.5, label="alloc&copy")
plt.xlabel("array dim.")
plt.legend()
plt.savefig("alloc_copy_time.svg")
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...