Что именно означает дельта в алгоритме градиентного спуска? - PullRequest
2 голосов
/ 27 октября 2011

Как на картинке:

enter image description here

Может кто-нибудь помочь мне понять, что именно означает дельта в алгоритме градиентного спуска?

Ответы [ 2 ]

4 голосов
/ 27 октября 2011

Это частная производная по отношению к theta_0.

2 голосов
/ 27 октября 2011

Термин является производным по отношению к theta 0.

  • Пометить theta как координату по оси X (пусть это будет A)
  • Найти соответствующую координату по оси Y (пусть это будет B), чтобы точка принадлежалаfunction J
  • Нарисуйте касательную к этой функции в точке (A, B)
  • Производная - это наклон этой касательной.

enter image description here

Производная используется для управления двумя аспектами минимизации функции стоимости (функция J):

  • направление - знак наклона указывает вам, в каком направлении вам следует двигаться вдоль X- ось, чтобы сходить J
  • скорость - величина наклона говорит вам, как быстро вы должны двигаться
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...