Какой набор данных используется, когда Tensorflow Estimator распечатывает потерю

Question

При использовании Tensorflow Estimator он печатает на консоли python (каждые 100 шагов) глобальный шаг и потерю (и, кроме того, он печатает скорость обучения, кросс-энтропию и MAE, которые являются моей метрикой оценки, и печатает эти3 значения в другой строке, что, я думаю, связано с какой-то функцией-оберткой, которая не является частью исходного API Estimator, потому что я использую реализацию ResNet от разработчиков Google).Выглядит это так:

    I0530 19:20:42.748463 10964 tf_logging.py:116] learning_rate = 3.552962e-05, cross_entropy = 2.2080934, MAE = 5.135024 (62.295 sec)   
    I0530 19:20:42.749458 10964 tf_logging.py:116] loss = 2.2080934, step = 76066 (62.295 sec)

Мой вопрос такой: какая потеря вычисляется (или какая вычисляется MAE)?
Это потеря только для одного примера на конкретном этапе при ведении журнала
Это потеря партии на определенном этапе, когда происходит регистрация?
Или, может быть, потеря на всем наборе поездов?

Также, пожалуйста, исправьте меня, если я 'Я предполагаю, что-то не так.Я довольно новичок в этой области.
Спасибо.

Answer 1

tf.Estimator автоматически устанавливает LoggingTensorHook для потери, а также глобальный шаг.Предположительно, код, который вы запускаете, устанавливает отдельный хук для других значений (скорость обучения, кросс-энтропия (что является просто потерей) и MAE), поэтому они печатаются в отдельных строках.

Что касаетсякакие данные используются для получения значений: это «текущий» пакет данных, т. е. пакет, который использовался на шаге, где ведется регистрация.Таким образом, из трех предложенных вами вариантов второй является правильным.

Это может быть подтверждено с помощью исходного кода , поскольку ловушка регистрирует «после запуска», получая результатыпоследнего session.run() вызова (который получает только одну партию за раз) в run_values.