Я добавляю Automati c Mixed Precision к модели TensorFlow 2. Каково взаимодействие между
tf.keras.mixed_precision.experimental.set_policy('mixed_float16')
и tf.config.optimizer.set_experimental_options({"auto_mixed_precision": True})
?
Первое описано в справочнике по смешанной точности Keras , а второе, похоже, не соответствует упоминается везде, кроме API документов . Использование экспериментальных опций вызывает, кажется, работает, в то время как установка политики дает мне несоответствия типов данных в моей модели.
Я использую GradientTape
, поэтому простые c решения, относящиеся к model.fit()
, не обратиться ко мне. Любое понимание сходства, различия и взаимодействия между этими двумя функциями?