Смена оптимизатора при обнаружении тензорного объекта

Question

Как изменить оптимизатор для конфигурации

, например, ниже приведен конфиг для ssd_coco_mobilenetv2

train_config: { 
  batch_size: 4 
  optimizer {
    rms_prop_optimizer: { 
      learning_rate: { 
        exponential_decay_learning_rate {
          initial_learning_rate: 0.0001 decay_steps: 800720 decay_factor: 0.95 
        } 
      } 
      momentum_optimizer_value: 0.9 
      decay: 0.9 
      epsilon: 1.0 
    } 
  } 
}

Answer 1

Вот файл proto , который соответствует оптимизатору. В соответствии с файлом прото вы можете выбрать один из трех различных оптимизаторов, например,

1. rms_prop_optimizer

2. моментум_оптимизатор

3. adam_optimizer

И затем для каждого оптимизатора вы можете настроить скорость обучения как одну из следующих

1. constant_learning_rate
2. exponential_decay_learning_rate
3. manual_step_learning_rate
4. cosine_decay_learning_rate

И затем для каждой скорости обучения вы можете настроить значения, значения по умолчанию также предоставляются в файле прото.

Answer 2

Вы можете попробовать momentum_optimizer

  optimizer {
    momentum_optimizer: {
      learning_rate: {
        cosine_decay_learning_rate {
          learning_rate_base: 0.2
          total_steps: 2000
          warmup_steps: 0
        }
      }
      momentum_optimizer_value: 0.9
    }
    use_moving_average: false
}

По моим наблюдениям, этого достаточно для обучения объектов, которые имеют повторяющиеся геометрические формы (например, прямоугольное заключение или бункер с круглыми зернами)