Matplotlib возвращает пустой график при отображении точности и скорости обучения с использованием Keras

Question

Я пытаюсь построить общую точность моей модели в зависимости от скорости обучения, чтобы сравнить различные наборы оптимизаторов (SGD, Adam, Adagrad и т. Д.). Однако, когда я строю свои переменные, результат графика matplotlib будет пустым

Это для Keras, используемого в Google Colab

Это моя модель

model = Sequential()
dim = 28
nclasses = 10

model.add(Conv2D(filters=32, kernel_size=(5,5), padding='same', activation='relu', input_shape=(dim,dim,1)))
model.add(Conv2D(filters=32, kernel_size=(5,5), padding='same', activation='relu',))

model.add(MaxPool2D(pool_size=(2,2), strides=(2,2)))
model.add(Dropout(0.2))
model.add(Conv2D(filters=64, kernel_size=(5,5), padding='same', activation='relu'))

model.add(Conv2D(filters=64, kernel_size=(5,5), padding='same', activation='relu'))
model.add(MaxPool2D(pool_size=(2,2), strides=(2,2)))
model.add(Dropout(0.2))
model.add(Flatten())

model.add(Dense(120, activation='relu'))
model.add(Dense(84, activation='relu'))
model.add(Dense(nclasses, activation='softmax'))

Выбор моего оптимизатора

opt = SGD(lr=0.001)
reduce_lr = ReduceLROnPlateau(monitor='val_acc', factor=0.9, patience=25, min_lr=0.000001, verbose=1)
model.compile(optimizer=opt, loss="categorical_crossentropy", metrics=["accuracy"])
history = model.fit(x=x_train, 
                    y=y_train, 
                    batch_size=10, 
                    epochs=1, 
                    verbose=1,
                    callbacks=[reduce_lr],
                    validation_data=(x_val,y_val), 
                    shuffle=True)

Это та часть, где я пытаюсь построить свою модель

plt.plot(history.history['val_acc'])
plt.plot(history.history['lr'])
plt.title('Plot of overall accuracy to larning rate for SGD optimizer')
plt.ylabel('accuracy')
plt.xlabel('learning rate')
plt.legend(['x_train', 'x_test'], loc='upper right')
plt.show()

Answer 1

Ваш график пуст, потому что вы тренировались только одну эпоху. Но это не самое худшее из твоих проблем. Вы пытаетесь построить график скорости эпохи (которая является постоянной величиной) против точности проверки эпохи. Как вы ожидаете, что это будет выглядеть, если значение скорости обучения является постоянным?

Что вам нужно сделать, это взять значение скорости обучения, которое вы используете для некоторого моделирования, и построить его график в зависимости от наивысшего значения точности, которого вы смогли достичь во время конкретного моделирования. Например, вы тренируетесь 3 раза, используя разные скорости обучения, и затем вы выводите максимальные значения точности в зависимости от скорости обучения следующим образом:

import matplotlib.pyplot as plt
%matplotlib inline
lrs = [history1.history['lr'][0],
       history2.history['lr'][0],
       history3.history['lr'][0]]
vals = [max(history1.history['val_acc']),
        max(history2.history['val_acc']),
        max(history3.history['val_acc'])]

lrs, vals = zip(*sorted(zip(lrs, vals)))
lrs, vals = list(lrs), list(vals)

plt.plot(lrs, vals)
plt.title('Plot of overall accuracy to larning rate for SGD optimizer')
plt.ylabel('Max Accuracy')
plt.xlabel('Learning Rate')
plt.show()

Что приведет к чему-то вроде этого:

Вот пример того, как вы должны определить эти симуляции:

opt1 = SGD(lr=0.001)
opt2 = SGD(lr=0.01)
opt3 = SGD(lr=0.1)
reduce_lr = ReduceLROnPlateau(monitor='val_acc', factor=0.9, patience=25, min_lr=0.000001, verbose=1)
model2 = tf.keras.models.clone_model(model) # <--copy model
model3 = tf.keras.models.clone_model(model)

model.compile(optimizer=opt1, loss="categorical_crossentropy", metrics=["accuracy"])
history1 = model.fit(x=x_train, 
                     y=y_train, 
                     batch_size=10, 
                     epochs=10, 
                     verbose=1,
                     callbacks=[reduce_lr],
                     validation_data=(x_val,y_val), 
                     shuffle=True)
model2.compile(optimizer=opt2, loss="categorical_crossentropy", metrics=["accuracy"])
history2 = model2.fit(x=x_train, 
                      y=y_train, 
                      batch_size=10, 
                      epochs=10, 
                      verbose=1,
                      callbacks=[reduce_lr],
                      validation_data=(x_val,y_val), 
                      shuffle=True)
model3.compile(optimizer=opt3, loss="categorical_crossentropy", metrics=["accuracy"])
history3 = model3.fit(x=x_train, 
                      y=y_train, 
                      batch_size=10, 
                      epochs=10, 
                      verbose=1,
                      callbacks=[reduce_lr],
                      validation_data=(x_val,y_val), 
                      shuffle=True)