Расчет коэффициентов гребенчатой ​​регрессии B

Question

Я пытаюсь вычислить коэффициенты регрессии гребня B по этой формуле в Python:

(X ^ T * X + λ * I) ^ (- 1) + X ^ T * y

где: X ^ T = X транспонированный
X ^ (- 1) = матрица, обратная X

Вопрос: Какую форму должна иметь единичная матрица (I)? X.shape или y.shape?

Спасибо за вашу помощь!

Answer 1

I должно иметь форму X'X, только тогда можно будет добавить матрицу. X обычно имеет форму [n,m], где n - количество экземпляров (строк), а m - количество функций (столбцов). Следовательно, X'X имеет форму [m,m], которая должна иметь форму I.

Также обратите внимание, что часто, когда мы формулируем X, у нас есть столбец для условий смещения. Это означает, что у вас может быть m функций, но X будет иметь m+1 столбцов, включая смещение.

Надеюсь, это поможет.