Как увидеть размер вычислительного графа в памяти в Pytorch? - PullRequest
3 голосов
/ 19 марта 2020

Как можно отследить выделение памяти для графика автограда, созданного прямым проходом на процессоре? Например, попытка использовать tracemallo c на процессоре:

rnn=nn.RNNCell(100,100).to('cuda')
x=torch.ones((1000,100),device='cuda')
tracemalloc.start(25)
while True:
   print(tracemalloc.get_traced_memory())
   x=rnn(x)

Печатная память должна постоянно увеличиваться по мере увеличения графика на каждом шаге l oop, но печатная память с

tracemalloc.get_traced_memory()

остается постоянным после 3-го l oop. Что происходит?

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...