При проверке модели Keras потеря проверки происходит случайным образом, независимо от используемого оптимизатора.

Question

Я переучиваю модель InceptionV3 на 200 изображениях и использую оптимизатор Adam:

opt = Adam(lr=0.0001, decay=0.0001 / 100)

Я заметил, что потери особенно подтверждаются проверкой. Я думал, что это до уровня обучения, как я видел в некоторых ответах, таких как Transfer Learning - Val_loss странное поведение , а также Почему возможно иметь низкие потери, но и очень низкую точность, в сверточная нейронная сеть? они не помогли.

, поэтому я использовал RMSprop, но у меня было такое же поведение. Вот как выглядит представление:

Есть предложения, почему я испытываю это и как с этим справиться?

Answer 1

Глядя на ваши графики, я не думаю, что сеть действительно чему-то учится.

Я предлагаю вам взглянуть на следующее:

1. Есть ли 0 'ввод данных в изображениях.

2. Являются ли градиенты слишком большими или слишком маленькими.

3. Являются ли градиенты почти постоянными в нескольких пакетах.

4. Одинаковы ли масштабы всех изображений.

5. Правильно ли закодированы классы в виде векторов с одним нагревом.