полностью чистая память GPU

Question

Я не могу очистить память GPU после отправки одной переменной в GPU.

import torch
tm = torch.Tensor([1,2]).to("cuda")
!nvidia-smi

|===============================+======================+======================|
|   0  GeForce RTX 208...  On   | 00000000:3D:00.0 Off |                  N/A |
|  0%   37C    P2    52W / 250W |    730MiB / 10989MiB |      0%      Default

Поэтому я использую 730MiB ... Теперь, что бы я ни пытался, я не могу сделать 730MiB go до нуля:

del tm                                                                                                                                                                                                 
torch.cuda.empty_cache()                                                                                                                                                                               
import sys;sys.modules[__name__].__dict__.clear()                                                                                                                                                      
%reset                                                                                                                                                                                                 
Once deleted, variables cannot be recovered. Proceed (y/[n])? y
!nvidia-smi
|   0  GeForce RTX 208...  On   | 00000000:3D:00.0 Off |                  N/A |
|  0%   35C    P8     1W / 250W |    728MiB / 10989MiB |      0%      Default |

Я был бы рад услышать любые предложения, Спасибо

Answer 1

Хорошо, это невозможно, эта память является драйверами горелки и не может быть освобождена. Я открыл билет в pytorch GitHub - https://github.com/pytorch/pytorch/issues/37664