Уравнения для выходов узлов в скрытом и выходном слоях нейронной сети

Question

Эй, ребята, я новичок в нейронных сетях ... Я хочу знать, как придумать уравнения для вывода узлов в скрытом и выходном слоях нейронной сети.Хотелось бы узнать ответ на ниже и как ты это сделал.Я также не смог найти подходящего материала для чтения по этому вопросу.

Предположим, у меня есть проблема двоичной классификации.Предположим, что у меня есть многослойная нейронная сеть с одним скрытым слоем.Предположим, что у меня есть функция активации сигмоида, заданная f(x)=1/(1+e^-z).Кто-нибудь знает, как я могу найти уравнение для вывода узлов в скрытом слое и вывода узлов в выходном слое?

Спасибо, ребята, любая помощь будет отличной.

Answer 1

Я сократил трехслойную NN до системы уравнений (1 входной узел, 3 скрытых узла, 1 выходной узел), и я получил те, которые показаны на рисунке. (Примечание: я предполагаю, что загрузка изображений работала - они заблокированы моральным фильтром компании).

1. Я пометил выход каждого узла как o , подписанный как {layer, нейрон}.
2. веса были помечены как w с подписи с указанием {to_layer, neuron} и верхние индексы с указанием {from_layer, нейрон}.
3. Термины смещения b были подписаны как {layer, нейрон}

Как показано, масштабированный вход NN ( Cet ) был сформулирован как выход узла на слое 1 (помечен как Eqn 3 на рисунке). Моя сигмоидальная активационная функция напоминала вашу (Уравнение 4). Оттуда был вычислен выходной сигнал уровня 2, узла 1 (уравнение 5), затем выходной сигнал уровня 2, узла 2 (уравнение 6), а затем выходной сигнал уровня 2, узла 3 (уравнение 7).

Выход ( BISt на моем изображении) был затем вычислен как взвешенная сумма активаций скрытого слоя, которая затем была передана через функцию активации.

Эта стратегия хорошо сработала для моего приложения.