Я работаю со скоростью обучения cycli c в Керасе. Функция скорости обучения Cycli c взята из keras-contrib . Он сказал, что размер шага должен быть 2-8 x training iterations in epoch
. Вот почему я выбрал 6. Но я думаю, что это должно быть немного большее число.
Cyli c параметры скорости обучения следующие.
CyclicLR(base_lr=1e-5,max_lr=1e-3,step_size=(6*train_generator.n/batch_size))
Я наблюдал эти два пика при проверке потеря. Это что-то из-за скорости обучения cycli c. 2-е изображение показывает cycli c скорость обучения
Примечание:
train_generator.n/batch_size=27.1875