Я обнаружил что-то непонятное при профилировании с помощью тензорного профилировщика.
Время, измеренное с помощью профилировщика, кажется намного медленнее, чем без него.Например: я перевожу предложение с моделью Transformer, обычно это занимает 70 мс, а с профилировщиком - 220 мс.
Код такой.
with tf.contrib.tfprof.ProfileContext('/home/work/tmp/profile') as pctx
Требует ли профилировщик слишком много накладных расходов?Какая часть стоит столько времени?Накладные расходы имеют место в каждой операции или между операциями ??