Тренировка со смешанной точностью с использованием API оценки тензорного потока

Question

Есть ли у кого-нибудь опыт обучения смешанной точности с использованием API оценки тензорного потока?

Я попытался привести свои входные данные к tf.float16 и результаты сети обратно к tf.float32. Для масштабирования потерь я использовал tf.contrib.mixed_precision.LossScaleOptimizer.

Сообщения об ошибках, которые я получаю, относительно неинформативны: «Попытка преобразовать 'x' в тензор и ошибка. Ошибка: ни одно из значений не поддерживается",

Answer 1

Я обнаружил проблему: я использовал tf.get_variable для хранения скорости обучения.Эта переменная не имеет градиента.Нормальным оптимизаторам все равно, но tf.contrib.mixed_precision.LossScaleOptimizer вылетает.Поэтому убедитесь, что эти переменные не добавлены в tf.GraphKeys.TRAINABLE_VARIABLES.