Есть ли способ получить общее количество Flops в проходе вывода для данной модели pytorch или tensorflow? - PullRequest
1 голос
/ 19 июня 2020

Я изучал модель Nvidia WaveGlow , которая используется Nvidia при синтезе текста в речь, но не смог найти какой-либо оценки # of Flops в выводе для этой модели.

Можно легко распечатать модель в pytorch с помощью print(waveglow) и посчитать параметры. Аналогично для Tensorflow можно сделать tf.trainable_variables() для подсчета параметров модели. Но я не мог найти способа получить хотя бы приблизительную оценку количества операций.

Есть ли способ вычислить приблизительное общее количество операций / флопов для модели для данного типа данных, скажем, fp32? И для Pytorch, и для Tensorflow?

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...