Я пытаюсь выучить / реализовать нейронный net, изучая и изучая несколько онлайн-ресурсов. Я заметил, что в некоторых уроках и постах к весам добавляются градиенты (после получения частных производных и т. Д. c): например, здесь https://github.com/CodingTrain/Toy-Neural-Network-JS/blob/master/lib/nn.js и здесь https://www.python-course.eu/neural_networks_with_python_numpy.php в то время как при объяснении соответствующей математики вычитание является правильной вещью, например: https://www.youtube.com/watch?v=YovTqTY-PYY и в нескольких других уроках.
Реализация мудрая, я вижу, что дополнение работает.
Первоначально я думал, что это может быть связано с тем, как начальная ошибка вычисляется (наблюдаемая - прогнозируемая) по сравнению с (прогнозируемая - наблюдаемая), но, похоже, везде одинакова (наблюдаемая - прогнозируемая).
Буду признателен, если кто-то здесь сможет объяснить это или прояснить мои сомнения в этой области