освободить память выделение cuda pytorch?

Question

RuntimeError: CUDA не хватает памяти. Попытка выделить 12,00 МБ (GPU 1; общая емкость 11,91 ГБ; 10,12 ГБ уже выделено; 21,75 МБ свободно; 56,79 МБ кэшировано)

Я столкнулся с предыдущей ошибкой во время обучения Pytorch. Я использую Pytorch на ноутбуке Jupyter. Есть ли способ освободить память GPU в ноутбуке Jupyter?

Answer 1

настроить размер партии или

https://pytorch.org/docs/stable/notes/faq.html

total_loss = 0
for i in range(10000):
    optimizer.zero_grad()
    output = model(input)
    loss = criterion(output)
    loss.backward()
    optimizer.step()
    total_loss += loss