Google Colab Pro GPU работает очень медленно - PullRequest
1 голос
/ 22 марта 2020

Я использую Con vnet на графическом процессоре Colab Pro. Я выбрал GPU во время выполнения и могу подтвердить, что GPU доступен. Я работаю точно в той же сети, что и вчера вечером, но это занимает около 2 часов на эпоху ... вчера вечером это заняло около 3 минут на эпоху ... ничего не изменилось. У меня такое чувство, что колаб может ограничить использование моего графического процессора, но я не могу понять, как определить, является ли это проблемой. Значительно ли меняется скорость графического процессора в зависимости от времени суток и т. Д. c? Вот некоторая диагностика, которую я напечатал. Кто-нибудь знает, как я могу глубже исследовать, что является причиной root этого медленного поведения? Скорость сети была такой же, как и с выбранным «GPU», это означает, что по какой-то причине я больше не тренируюсь на GPU, или ресурсы были сильно ограничены. Я использую Tensorflow 2.1.

gpu_info = !nvidia-smi
gpu_info = '\n'.join(gpu_info)
if gpu_info.find('failed') >= 0:
  print('Select the Runtime → "Change runtime type" menu to enable a GPU accelerator, ')
  print('and then re-execute this cell.')
else:
  print(gpu_info)

Sun Mar 22 11:33:14 2020       
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 440.64.00    Driver Version: 418.67       CUDA Version: 10.1     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|===============================+======================+======================|
|   0  Tesla P100-PCIE...  Off  | 00000000:00:04.0 Off |                    0 |
| N/A   40C    P0    32W / 250W |   8747MiB / 16280MiB |      0%      Default |
+-------------------------------+----------------------+----------------------+

+-----------------------------------------------------------------------------+
| Processes:                                                       GPU Memory |
|  GPU       PID   Type   Process name                             Usage      |
|=============================================================================|
+-----------------------------------------------------------------------------+
def mem_report():
  print("CPU RAM Free: " + humanize.naturalsize( psutil.virtual_memory().available ))

  GPUs = GPUtil.getGPUs()
  for i, gpu in enumerate(GPUs):
    print('GPU {:d} ... Mem Free: {:.0f}MB / {:.0f}MB | Utilization {:3.0f}%'.format(i, gpu.memoryFree, gpu.memoryTotal, gpu.memoryUtil*100))

mem_report()
CPU RAM Free: 24.5 GB
GPU 0 ... Mem Free: 7533MB / 16280MB | Utilization  54%

Все еще не повезло в ускорении, вот мой код, может быть, я что-то упустил ... кстати, изображения из старого конкурса Kaggle Данные можно найти здесь. Учебные изображения сохраняются на моем диске Google. https://www.kaggle.com/c/datasciencebowl

#loading images from kaggle api

#os.environ['KAGGLE_USERNAME'] = ""
#os.environ['KAGGLE_KEY'] = ""

#!kaggle competitions download -c datasciencebowl

#unpacking zip files

#zipfile.ZipFile('./sampleSubmission.csv.zip', 'r').extractall('./')
#zipfile.ZipFile('./test.zip', 'r').extractall('./')
#zipfile.ZipFile('./train.zip', 'r').extractall('./')

data_dir = pathlib.Path('train')

image_count = len(list(data_dir.glob('*/*.jpg')))
CLASS_NAMES = np.array([item.name for item in data_dir.glob('*') if item.name != "LICENSE.txt"])

shrimp_zoea = list(data_dir.glob('shrimp_zoea/*'))
for image_path in shrimp_zoea[:5]:
    display.display(Image.open(str(image_path)))
image_generator = tf.keras.preprocessing.image.ImageDataGenerator(rescale=1./255,
                                                                  validation_split=0.2)
                                                                  #rotation_range = 40,
                                                                  #width_shift_range = 0.2,
                                                                  #height_shift_range = 0.2,
                                                                  #shear_range = 0.2,
                                                                  #zoom_range = 0.2,
                                                                  #horizontal_flip = True,
                                                                  #fill_mode='nearest')
validation_split = 0.2
BATCH_SIZE = 32
BATCH_SIZE_VALID = 10
IMG_HEIGHT = 224
IMG_WIDTH = 224
STEPS_PER_EPOCH = np.ceil(image_count*(1-(validation_split))/BATCH_SIZE)
VALIDATION_STEPS = np.ceil((image_count*(validation_split)/BATCH_SIZE))
train_data_gen = image_generator.flow_from_directory(directory=str(data_dir),
                                                     subset='training',
                                                     batch_size=BATCH_SIZE,
                                                     class_mode = 'categorical',
                                                     shuffle=True,
                                                     target_size=(IMG_HEIGHT, IMG_WIDTH),
                                                     classes = list(CLASS_NAMES))

validation_data_gen = image_generator.flow_from_directory(directory=str(data_dir),
                                                     subset='validation',
                                                     batch_size=BATCH_SIZE_VALID,
                                                     class_mode = 'categorical',
                                                     shuffle=True,
                                                     target_size=(IMG_HEIGHT, IMG_WIDTH),
                                                     classes = list(CLASS_NAMES))

model_basic = tf.keras.models.Sequential([
    tf.keras.layers.Conv2D(16, (3,3), activation='relu', input_shape=(224, 224, 3)),
    tf.keras.layers.MaxPooling2D(2, 2),
    tf.keras.layers.Conv2D(32, (3,3), activation='relu'),
    tf.keras.layers.MaxPooling2D(2,2),
    tf.keras.layers.Conv2D(64, (3,3), activation='relu'),
    tf.keras.layers.MaxPooling2D(2,2),
    tf.keras.layers.Conv2D(128, (3,3), activation='relu'),
    tf.keras.layers.MaxPooling2D(2,2),
    tf.keras.layers.Conv2D(128, (3,3), activation='relu'),
    tf.keras.layers.MaxPooling2D(2,2),
    tf.keras.layers.Flatten(),
    tf.keras.layers.Dropout(0.2),
    tf.keras.layers.Dense(1000, activation='relu'),
    tf.keras.layers.Dense(121, activation='softmax')
])

model_basic.summary()
model_basic.compile(optimizer='adam',
              loss='categorical_crossentropy',
              metrics=['accuracy'])
history = model_basic.fit(
          train_data_gen,
          epochs=10,
          verbose=1,
          validation_data=validation_data_gen,
          steps_per_epoch=STEPS_PER_EPOCH,
          validation_steps=VALIDATION_STEPS,
          initial_epoch=0         
)

Ответы [ 3 ]

1 голос
/ 22 марта 2020

Ваш вывод nvidia-smi дает понять, что подключен графический процессор. Где вы храните данные о тренировках? Если бы не на локальном диске, я бы рекомендовал хранить его там. Скорость дистанционной передачи обучающих данных может варьироваться в зависимости от того, где находится ваш сервер Colab.

0 голосов
/ 22 марта 2020

В конце концов, шея bottle загружает изображения с google-диска в colab в каждой партии. Загрузка изображений на диск сократила время для каждой эпохи примерно до 30 секунд ... вот код, который я использовал для загрузки на диск:

!mkdir train_local
!unzip train.zip -d train_local

После загрузки файла train.zip в colab

0 голосов
/ 22 марта 2020

Из Часто задаваемые вопросы Colab :

Типы графических процессоров, доступных в Colab, со временем меняются. Это необходимо для того, чтобы Colab мог предоставить доступ к этим ресурсам бесплатно. Доступные в Colab графические процессоры часто включают в себя Nvidia K80, T4, P4 и P100. Невозможно выбрать тип графического процессора, к которому вы можете подключиться в Colab в любой момент времени. Пользователи, которые заинтересованы в более надежном доступе к самым быстрым графическим процессорам Colab, могут быть заинтересованы в Colab Pro .

Если код не изменился, проблема, вероятно, связана с характеристиками производительности типы графических процессоров, к которым вы подключены.

...