Почему нейрон смещения необходим для распространяющейся нейронной сети, которая распознает оператор XOR?

Question

Вчера я опубликовал вопрос относительно проблем, которые у меня возникли с моей обратно распространяющейся нейронной сетью для оператора XOR. Я проделал немного больше работы и понял, что это может быть связано с отсутствием нейрона смещения.

Мой вопрос: какова роль нейрона смещения в целом и какова его роль в распространяющейся нейронной сети, которая распознает оператор XOR? Можно ли создать его без нейрона смещения?

Answer 1

Можно создать нейронную сеть без нейрона смещения ... это будет работать просто отлично, но для получения дополнительной информации я бы порекомендовал вам увидеть ответы на этот вопрос:

Роль предвзятости в нейронных сетях

Обновление: роль смещения нейрона в нейронной сети, которая пытается решить модель XOR, заключается в минимизации размера нейронной сети. Обычно для «примитивных» (не уверен, что это правильный термин) логических функций, таких как AND, OR, NAND и т. Д., Вы пытаетесь создать нейронную сеть с 2 входными нейронами, 2 скрытыми нейронами. и 1 выходной нейрон. Это не может быть сделано для XOR, потому что самый простой способ моделировать XOR - это два NAND s:

Вы можете рассматривать A и B как свои входные нейроны, ворота в середине - это ваш нейрон смещения, два следующих входа - ваши «скрытые» нейроны, и, наконец, у вас есть выходной нейрон. Вы можете решить XOR, не имея нейрона смещения, но для этого потребуется увеличить количество скрытых нейронов до минимум 3 скрытых нейронов. В этом случае 3-й нейрон по существу действует как нейрон смещения. Вот еще один вопрос, в котором обсуждается смещение нейрона в отношении XOR: XOR-проблема, решаемая с нейронной сетью 2x2x1 без смещения?