Куда направляются данные проверки при обучении ANN?

Question

Необходимость использования части тренировочного набора в качестве данных проверки проста, но я не совсем понимаю, как и на каком этапе обучения он должен быть отключен?

Это в конце тренировки (после достижения хорошего минимума для данных тренировки)? Если это так, что делать, если данные проверки выдают большую ошибку?

Это все время обучения (продолжайте искать минимум, пока ошибки в данных обучения и проверки не являются удовлетворительными)?

Независимо от того, что я пытаюсь сделать, кажется, что в сети возникают проблемы с обучением и обучением, и проверкой, когда набор проверки достигает определенного размера (я помню, что где-то читал, что 70% обучения, 30% проверки - это обычное соотношение, я получаю гораздо меньше), хотя у него нет проблем с тем, чтобы выучить те же данные, когда они целиком используются для обучения.

Answer 1

Набор данных проверки в основном используется для ранней остановки.

1. Поездная сеть для эпохи i по данным испытаний. Пусть тестовая ошибка будет e (t, i).
2. Оценка сети на проверочном наборе. Пусть это будет е (v, я).
3. Если e (v, i)> e (v, i-1), прекратите обучение. Остальное goto 1.

Так что это помогает вам видеть, когда сеть превышает , что означает, что она слишком сильно моделирует специфику тестовых данных. Идея состоит в том, что с ANN вы хотите добиться хорошего обобщения от обучающих данных до невидимых данных. Набор проверки помогает определить, когда достигается точка, когда он слишком специализируется на данных обучения.

Answer 2

Важно то, что ваш проверочный набор не должен иметь отзывов об обучении. Вы можете отобразить частоту ошибок на проверочном наборе, но алгоритм обучения может использовать только частоту ошибок на обучающем наборе, чтобы исправить себя.

Answer 3

означает, что Over-Training Я советую проверить набор проверки 'MSE во время обучения см. Система предупреждения о перетренированности FannTool http://fanntool.googlecode.com/files/FannTool_Users_Guide.zip