Я понимаю идею смещения в нейронной сети. Это служит смещением. Тем не менее, у меня много недоразумений относительно того, как его следует использовать, потому что каждый учебник, который я читаю, кажется, делает что-то свое. У меня есть два основных вопроса.
1. Является ли значение каждой постоянной смещения или обновляется во время обратного распространения (или, возможно, обновляются только веса смещения, но само значение смещения остается неизменным)?
2.Как мне следует учитывать смещение, если оно есть для каждого слоя. Должен ли я просто взять взвешенную сумму значения смещения и весов смещения точно так же, как другие, или я должен делать что-то еще, например, добавить смещение в конце перед функцией активации? (Что всегда быстрее и эквивалентнее).
Я получаю так много вариантов отовсюду, и я не знаю, за кем мне следует следовать.