Да, вы можете использовать только 1 графический процессор с ограниченной памятью в 12 ГБ, а TPU имеет 64 ГБ памяти с высокой пропускной способностью. Вы можете прочитать здесь в этой статье . Итак, если вы хотите использовать большой набор данных, то я бы порекомендовал вам использовать tf.data.Dataset
для его подготовки перед тренировкой. Если вы хотите использовать графические процессоры, вы можете использовать любую версию TF. Но для ТПУ я бы рекомендовал использовать TF1.14.