Я использую пример клея для tf , заданного huggingface. Чтобы ограничить рост графического процессора, я добавил функцию:
def limit_gpu(gpu_number):
gpus = tf.config.experimental.list_physical_devices('GPU')
if gpus:
# Restrict TensorFlow to only use the first GPU
try:
tf.config.experimental.set_visible_devices(gpus[gpu_number], 'GPU')
tf.config.experimental.set_memory_growth(gpus[gpu_number], True)
logical_gpus = tf.config.experimental.list_logical_devices('GPU')
print(len(gpus), "Physical GPUs,", len(logical_gpus), "Logical GPU")
except RuntimeError as e:
# Visible devices must be set before GPUs have been initialized
print(e)
Однако во время отладки сразу после того, как я вызываю limit_gpu (), я вижу, что nividia-smi заявляет об использовании графического процессора 707 МБ.
Как это возможно? Что это за 707MB? Могу ли я обойтись при более низком использовании графического процессора в этом «бездействующем» состоянии?