Правило дельты против градиентного спуска? - PullRequest
4 голосов
/ 04 февраля 2011

В чем разница между градиентным спуском и дельта-правилом?

1 Ответ

7 голосов
/ 08 февраля 2011

Без математики: дельта-правило использует градиентный спуск, чтобы минимизировать ошибку весов сети персептрона.

Градиентный спуск - это общий алгоритм, который постепенно изменяет вектор параметров для минимизации целевой функции.Это достигается путем перемещения в направлении наименьшего сопротивления, то есть в направлении, которое имеет наибольший (отрицательный) градиент.

Это направление можно найти, взяв производную целевой функции.Это похоже на падение мрамора в гладком холмистом ландшафте.Это гарантирует только локальный минимум.Итак, короткий ответ заключается в том, что дельта-правило - это особый алгоритм, использующий общий алгоритм градиентного спуска.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...