Не понимаю необходимость "grad" в lrCostFunction.m - PullRequest
0 голосов
/ 10 января 2019

Кодирование lrCostFunction.m в октаве для курса Машинное обучение в Coursera (нейронные сети)" ex3 ". Я не понимаю, почему мы должны получить " град ". У кого-нибудь есть подсказка? Спасибо заранее

1 Ответ

0 голосов
/ 10 января 2019

Градус относится к «градиенту» функции стоимости.

Ваша цель - минимизировать функцию стоимости. Чтобы сделать это, большинству алгоритмов оптимизации также нужно знать уравнение, которое дает его градиент в каждой точке, чтобы они могли использовать его для перемещения следующего поиска в направлении, которое повышает вероятность того, что функция стоимости будет на уровне нижнее значение.

В частности, поскольку градиент в точке определяется как направление максимальной скорости ' увеличения ' в базовой функции, обычно алгоритмы оптимизации используют текущую точку и делают небольшой шаг в * 1007. * обратное направление к указанному градиентом.

В любом случае, поскольку вы запрашиваете абстрактный алгоритм оптимизации для оптимизации параметров таким образом, чтобы функция стоимости минимизировалась за счет использования ее градиента на каждом шаге, вам необходимо предоставить все эти входные данные для алгоритма. Поэтому вам необходимо вычислять значение «град», а также значение самой функции стоимости в каждой точке.

...