удаляй модель из gpu

Question

Я хочу сделать перекрестную проверку в моем проекте на основе Pytorch.И я не нашел ни одного метода, который предоставил pytorch, чтобы удалить текущую модель и очистить память GPU.Не могли бы вы сказать, как я могу это сделать?

Answer 1

Освобождение памяти в PyTorch работает так же, как и в обычном сборщике мусора Python.Это означает, что как только все ссылки на Python-Object исчезнут, он будет удален.

Вы можете удалить ссылки, используя оператор del:

del model

Вы должны убедиться, что нет ссылки на соответствующий оставленный объект, иначе память не будет освобождена.

Так что, как только вы удалили все ссылки из вашего model, он должен быть удален, а память освобождена.

Если вы хотите узнать больше об управлении памятью, вы можете посмотреть здесь: https://pytorch.org/docs/stable/notes/cuda.html#cuda-memory-management