Вы пытались сохранять веса вашей модели на каждой итерации?
Использование обратных вызовов keras для примера:
filepath = 'weights/' + model.name + '.{epoch:02d}-{acc:.2f}.hdf5'
checkpoint = ModelCheckpoint(filepath, monitor='acc', verbose=0, save_weights_only=True, save_best_only=True, mode='auto', period=1)
Затем вы можете загрузить веса вашей модели на нужной итерации
Надеюсь, я хорошо понял вашу проблему!