Нейронная сеть выходной группировки 0,5?

Question

Я пытался написать систему нейронной сети, но даже несмотря на простые проблемы типа И / ИЛИ / НОР, выходы, кажется, группируются около 0,5 (для смещения -1) и 0,7 (для смещения 1).Это не выглядит точно «неправильно» ... 1,1 В и картина кажется выше, чем остальные, и в 0,0 ИЛИ выглядит меньше, но они все еще сгруппированы так, что это спорно.

Мне было интересно: а) есть ли какая-то очевидная ошибка, которую я сделал, или б) есть ли какой-нибудь совет по отладке нейронных сетей ... видя, что вы не всегда можете точно определить, откуда пришел ответ ...

Спасибо!

Майк

Answer 1

для а) невозможно сказать без дополнительной информации.

для б) лучший способ, который я нашел, - это предварительно рассчитать набор векторов и весов для небольшой тестовой версии моей сетевой архитектуры.и иметь некоторый отладочный код, который выводит состояние сети в файл CSV, чтобы я мог посмотреть на него в Excel.

Прямые (и обратные) проходы вашей сети должны быть полностью рассчитаны вручную для одного шаблона и известного начального состояния сети, поэтому рекомендуется иметь шаблон-кандидат или пару, если вы можетемедведь делает это вручную, полностью перечислил для ваших тестов.На самом деле это не так плохо, как кажется.

Это дает дополнительное преимущество, которое укрепляет ваше понимание работы алгоритма и побуждает вас снова проверить свою реализацию с другой точки зрения.

удачи.

PS бесстыдный плагин для записи в блоге backprop здесь ...

Answer 2

Я ответил на аналогичный вопрос и опубликовал несколько значений, с которыми вы можете проверить:

Тест искусственных нейронных сетей

Используйте эти значения для проверки вашей нейронной сети. Ваши выходные данные должны ОЧЕНЬ близко совпадать со значениями, даже если вы используете разные языки ... у вас должна быть возможность сопоставить как минимум 6 цифр после десятичной дроби без проблем.