Можете ли вы помочь мне с линейной активацией моей нейронной сети Simple Classifier в pyBrain?

Question

Я пытаюсь сделать очень простой случай, используя библиотеку Python, называемую pyBrain, и не могу заставить ее работать.Вероятно, есть очень простая причина, поэтому, я надеюсь, кто-то может помочь!

1) Простой XOR работает отлично.

2) Классификация светодиодов, отображаемых на цифровых часах, по числовому выходному значению работает нормально.

например,

[ 1.  1.  1.  0.  1.  1.  1.] => [ 0.]
[ 0.  0.  1.  0.  0.  1.  0.] => [ 1.] 
[ 1.  0.  1.  1.  1.  0.  1.] => [ 2.] 
[ 1.  0.  1.  1.  0.  1.  1.] => [ 3.] 
[ 0.  1.  1.  1.  0.  1.  0.] => [ 4.] 
[ 1.  1.  0.  1.  0.  1.  1.] => [ 5.] 
[ 1.  1.  0.  1.  1.  1.  1.] => [ 6.] 
[ 1.  0.  1.  0.  0.  1.  0.] => [ 7.] 
[ 1.  1.  1.  1.  1.  1.  1.] => [ 8.] 
[ 1.  1.  1.  1.  0.  1.  1.] => [ 9.] 

3) Классификация числового значения для светодиодного выхода для управления цифровым дисплеем не работает.

например,

[ 0.] => [ 1.  1.  1.  0.  1.  1.  1.] 

и т. Д. И т. Д. (Как указано выше, но в обратном порядке).

Я использую простой линейный активатор с 10 входами, 1 выходом, и я пробовал> 12 нейронов в скрытом слое.

Моя путаница заключается в том, что разве сеть не сможет запомнить схему с 10 нейронами в скрытом слое?

Я уверен, что есть что-то очевидное, что мне не хватает, поэтому, пожалуйста, не стесняйтесь просветить мою глупость!

Answer 1

Линейная активация подходит, когда вы выполняете регрессию (один выходной узел представляет диапазон значений), но для классификации (двоичные выходы, представляющие совпадения) лучше использовать активацию, которая ограничивает диапазон значений. Что-то вроде сигмоида или танх.

Answer 2

Я думаю, что вместо MetaOptimize может помочь вам больше.

Я взял только вводный класс по ОД. Но из того, что я помню, нейронные сети работают для многих проблем, но они как черные ящики. Если они не работают, трудно определить, почему они не работают. В частности, нет конкретных правил в отношении количества узлов в скрытом слое (есть практические правила для некоторых проблем).