Что именно смещает, это для смещения или стрельбы?

Question

Я до сих пор не понимаю, что такое смещение и когда активируется нейрон. Так что теперь у меня есть несколько вопросов.

Когда именно запускается искусственный нейрон? Нейрон также срабатывает, когда результат функции активации <0 или нейрон срабатывает только для положительных значений? </p>

Насколько я знаю, смещение должно смещать функцию активации. Но.... Как это должно работать? Что я не понимаю?

Стандартный расчет с уклоном выглядит следующим образом.
Умножьте ввод на вес и добавьте смещение
Итак, у нас есть расчет: x = a * w1 + b * w2 + c * w3 ..... + смещение
После этого примените функцию активации. Для этого примера мы используем функцию активации, функцию сигмоида: у = 1 / (1 + е ^ (- х)). Значение х мы получаем из предыдущего шага.

но если я сделаю это таким образом, то никакого сдвига не может возникнуть. Это влияет только на интенсивность / интенсивность нейрона.

В других видеофильмах я видел, что при использовании смещения можно также сгенерировать отрицательные значения в функции ReLU (например: вес + смещение -> -0,5 + 1), но не было упоминания о сдвиге функция.

И снова в другом видео / блоге я увидел, что Bias дополнительно дополнил функцию активации. Например, в сигмоидальной функции: у = 1 / (1 + е ^ (- х + смещение))

Теперь я полностью запутался в предвзятости. Я надеюсь, что вы можете мне помочь.

Answer 1

Искусственные нейроны (используемые в машинном обучении / ИНС) только черпают вдохновение из биологических нейронов.Они не "стреляют" так, как это делают биологические нейроны.Вместо этого они вычисляют скалярный выход из вектора входных данных (отображение из входных чисел в выходное число).Смещение регулирует «чувствительность» по отношению к входам, то есть задает область нелинейной функции, в которой будет лежать выход.Он не связан с «стрельбой» или «скоростями стрельбы», так как в ANN нет стрельбы.

---

Чтобы получить моделируемые нейроны, которые запускают, вам нужно перейти от машинного обучения к области вычислительной нейронауки.где используются всплески нейронных сетей (SNN).Эти модели биологических нейронов более точны, здесь каждый нейрон определил время срабатывания, и, таким образом, мы можем вычислить частоты срабатывания и т. Д.

Путаница возникает, когда некоторые исследователи считают, что ANN являются моделью для SNN (используя допущениечто темпы стрельбы охватывают все важные аспекты нейронной активности).Затем активность искусственного нейрона интерпретируется как «скорость стрельбы» в данный момент времени.Это толкование не является необходимым для использования / понимания ANN, и при этом нет единого мнения, что оно вообще оправдано.