Увеличение количества эпох при уменьшении скорости обучения

Question

Я использую:

ReduceLROnPlateau(monitor='val_loss', factor=0.1, patience=50)

Как мне увеличить число эпох, когда я уменьшаю значение скорости обучения.

Я хочу набраться терпения = 50, когда lr = 0,2в начале, и наибольшее количество эпох при уменьшении скорости обучения (например, терпение = 100, когда lr = 0,02, терпение = 1000, когда lr = 0,002), чтобы дать больше времени алгоритму, когда lr мало.

Answer 1

Я считаю, что это возможно, если реализовать собственный класс ReduceLROnPlateau, по сути скопировав код Keras и изменив его.

Это класс , который вы бы скопировали и изменили.

Изменить подпись класса на:

class ReduceLROnPlateau(Keras.callbacks.Callback)

затем найдите строки, где время ожидания сравнивается с терпением и где LR уменьшается. Измените эти строки, чтобы увеличить терпение, когда LR достигнет определенного значения.

Наконец, используйте этот класс в ваших обратных вызовах вместо Keras 'ReduceLROnPlateau.