Есть ли способ найти производную скалярного значения по вектору с помощью Python?

Question

Я пытаюсь написать функцию потерь. Моя функция потери производит значение 112,314. Я пытаюсь найти производную этой функции потерь по некоторым весам, которая является вектором. Вектор равен [3.7, 3.7, 3.9, 4.3, 2.5, 3.3, 4.7].

До сих пор я пробовал np.gradient(112.314, [3.7, 3.7, 3.9, 4.3, 2.5, 3.3, 4.7]).

Answer 1

См. это объяснение градиентного спуска с использованием производной MSE. Короче говоря, градиент MSE - это сумма различий между вашими предсказанными значениями и истинными значениями.

Но это все еще не говорит вам о градиенте по отношению к вашим весам, это просто градиент по отношению к прогнозам - вам также нужно заменить вашу модельную функцию на h (x) в уравнении 1.4на ссылку, и используйте правило цепи, чтобы получить градиент по отношению к вашим весам. Он показывает результат этого для случая линейной регрессии.