Пики потерь при проверке при использовании скорости обучения cycli c. Керас - PullRequest
0 голосов
/ 09 мая 2020

Я работаю со скоростью обучения cycli c в Керасе. Функция скорости обучения Cycli c взята из keras-contrib . Он сказал, что размер шага должен быть 2-8 x training iterations in epoch. Вот почему я выбрал 6. Но я думаю, что это должно быть немного большее число.

Cyli c параметры скорости обучения следующие.

CyclicLR(base_lr=1e-5,max_lr=1e-3,step_size=(6*train_generator.n/batch_size))

Я наблюдал эти два пика при проверке потеря. Это что-то из-за скорости обучения cycli c. 2-е изображение показывает cycli c скорость обучения
Примечание:
train_generator.n/batch_size=27.1875

enter image description here

enter image description here

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...