Как оптимизировать скорость для вычисления среднего по оси Z в трехмерном массиве?Cython против Numpy

Question

Я пытаюсь ускорить вычисление средних значений по оси Z в трехмерном массиве. Я прочитал документацию Cython, чтобы добавить типы, представления памяти и так далее, чтобы выполнить эту задачу. Однако, когда я сравниваю обе функции: функцию, основанную на numpy, и другую, основанную на синтаксисе и компиляции Cython в файле .so, первая превосходит вторую. Есть ли шаг или объявление типа, я ошибаюсь / отсутствует в моем коде?

Это моя версия: python_mean.py

    import numpy as np


    def mean_py(array):
        x = array.shape[1]
        y = array.shape[2]
        values = []
        for i in range(x):
            for j in range(y):
                values.append((np.mean(array[:, i, j])))

        values = np.array([values])
        values = values.reshape(500,500)
        return values

и это мой файл cython_mean.pyx

     %%cython
     from cython import wraparound, boundscheck
     import numpy as np
     cimport numpy as np 

     DTYPE = np.double

     @boundscheck(False)
     @wraparound(False)
     def cy_mean(double[:,:,:] array):
        cdef Py_ssize_t x_max = array.shape[1]
        cdef Py_ssize_t y_max = array.shape[2]
        cdef double[:,:] result = np.zeros([x_max, y_max], dtype = DTYPE)
        cdef double[:,:] result_view = result
        cdef Py_ssize_t i,j
        cdef double mean
        cdef list values 
        for i in range(x_max):
            for j in range(y_max):
                mean = np.mean(array[:,i,j])
                result_view[i,j] = mean
        return result

Когда я импортирую обе функции и начинаю делать вычисления для трехмерного массива, я получаю следующее:

    import numpy as np
    a = np.random.randn(250_000)
    b = np.random.randn(250_000)
    c = np.random.randn(250_000)

    array = np.vstack((a,b,c)).reshape(3, 500, 500)

    import mean_py
    from mean_py import mean_py
    %timeit mean_py(array)


    4.82 s ± 84.7 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)



    import cython_mean
    from cython_mean import cy_mean


    7.3 s ± 499 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)

Почему такая низкая производительность в коде Cython? Спасибо за вашу помощь

Answer 1

Numpy решение

Для этой конкретной проблемы использование параметра axis, равного numpy.mean, вероятно, является самой быстрой реализацией (т. Е. values = np.mean(array, axis=0)).

См. Бенчмарк ниже, numpy.mean на вашем примере выглядит почти в 1000 раз быстрее.

In []: %timeit mean_py(array)
1.23 s ± 3.99 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)

In []: %timeit array.mean(0)
1.07 ms ± 3.76 µs per loop (mean ± std. dev. of 7 runs, 1000 loops each)

In []: np.all(array.mean(0) == mean_py(array))
Out[]: True

---

предложение для вашего оригинального подхода

Не объяснение того, почему версия cython не быстрее, а предложение о том, как улучшить numpy -только версию (исключая list как (медленную) промежуточную структуру данных):

    import numpy as np


    def mean_py(array):
        x = array.shape[1]
        y = array.shape[2]
        #avoid creating values as list first
        #and create empty array instead
        values = np.empty((x,y), type(array[0][0][0]))
        for i in range(x):
            for j in range(y):
                #no more need for append operations
                values[i][j] = ((np.mean(array[:, i, j])))

        #no more need for conversion to array
        #values = np.array([values])
        #values = values.reshape(500,500)
        return values