У меня есть модель (потеря триплета для MNIST). Он плохо учится: плато в val_accuracy составляет около 50%. Однако val_accuracy также прыгает вверх и вниз (потеря идет вниз, прыжков нет). Таким образом, он может показывать 40%, 60% - один раз из, скажем, 10. Кроме того, один раз из 100 он может подскочить до 70% и до 25% ... Если я уменьшу скорость обучения, он станет больше устойчиво, но тогда я никогда не получу точность 70%!
Мои вопросы: это просто LR, или что-то еще может способствовать «прыжкам»? И: есть ли способ сделать это стабильно go, вместо того, чтобы время от времени прыгать вверх, а затем снова вниз?
Спасибо. 