Numpy Ковариация

Question

Когда к матрице numpy применено нулевое среднее, ожидается ли разница между следующими двумя кодами? Я изучал курс машинного обучения Эндрю Нга, и он предложил использовать X @ X ^ T, чтобы найти ковариационную матрицу (учитывая, что применяется нулевое среднее). Когда я попытался визуально изучить матрицу, обнаружил, что она дает результат сравнения с функцией np.cov .. Пожалуйста, помогите ..

import numpy as np

X=np.random.randint(0,9,(3,3))
print(X)

[[2 1 5]

 [7 4 8]

 [4 7 6]]

X = (X - X.mean(axis=0)) # <- Zero Mean
print(X)

[[-2.33333333 -3.         -1.33333333]

 [ 2.66666667  0.          1.66666667]

 [-0.33333333  3.         -0.33333333]]

cov1 = (X @ X.T)/m # <- Find covariance manually as suggested in the course

print(cov1)

[[ 5.40740741 -2.81481481 -2.59259259]

 [-2.81481481  3.2962963  -0.48148148]

 [-2.59259259 -0.48148148  3.07407407]]

cov2 = np.cov(X,bias=True) # <- Find covariance with np.cov

print(cov2)

[[ 0.7037037   0.59259259 -1.2962963 ]

 [ 0.59259259  1.81481481 -2.40740741]

 [-1.2962963  -2.40740741  3.7037037 ]]

Answer 1

Если ваши наблюдения в строках, а переменные в столбцах (установите rowvar на False), тогда это должно быть x.T @ x:

import numpy as np

x0 = np.array([[2, 1, 5], [7, 4, 8], [4, 7, 6]])
x = x0 - x0.mean(axis=0)

cov1 = x.T @ x / 3
cov2 = np.cov(x, rowvar=False, bias=True)

assert np.allclose(cov1, cov2)

x @ x.T для случая, когда наблюдения находятся в столбцах, а переменные - в строках:

x = x0 - x0.mean(axis=1)[:,None]

cov1 = x @ x.T / 3
cov2 = np.cov(x, bias=True) # rowvar=True by default

assert np.allclose(cov1, cov2)