Приложение Tensorflow Hub vs Keras - снижение производительности - PullRequest
Новая
       74

Приложение Tensorflow Hub vs Keras - снижение производительности

0 голосов
/ 29 октября 2019

У меня проблема с классификацией изображений, и я хочу использовать предварительно подготовленные модели Keras для этой задачи. Когда я использую такую ​​модель 

model = tf.keras.Sequential([
    hub.KerasLayer("https://tfhub.dev/google/tf2-preview/mobilenet_v2/feature_vector/4",
                   output_shape=[1280],
                   trainable=False),
    tf.keras.layers.Dropout(0.5),
    tf.keras.layers.Dense(num_classes, activation='softmax')
])
model.build([None, image_size[0], image_size[1], 3])

model.compile(
    optimizer=tf.keras.optimizers.Adam(),
    loss='categorical_crossentropy',
    metrics=['acc'])

, я легко получаю точность ~ 90% и очень низкие потери на сбалансированном наборе данных. Однако, если использовать keras.application так: 

`base_model = tf.keras.applications.mobilenet_v2.MobileNetV2(
    input_shape=input_img_size,
    include_top=False,
    weights='imagenet'
)

base_model.trainable = False  

model = tf.keras.layers.Dropout(0.5)(model)

model = tf.keras.layers.Dense(num_classes, activation='softmax')(model)

model = tf.keras.models.Model(inputs=base_model.input, outputs=model)

model.compile(
    optimizer=tf.keras.optimizers.Adam(),
    loss='categorical_crossentropy',
    metrics=['acc'])`

и использовать правильную функцию tf.keras.application.mobilenet_v2.preprocess_input в генераторе данных (и при этом все остальное остается прежним), он застрянет на 60% проверке и 80% обучении. В чем разница между этими подходами? почему один превосходит другой?

Генератор данных: 

datagen = tf.keras.preprocessing.image.ImageDataGenerator(
        preprocessing_function = preprocessing_function,
        rotation_range=10,
        zoom_range=0.3,
        width_shift_range=0.2,
        height_shift_range=0.2,
        horizontal_flip=True,
        vertical_flip=True,
        shear_range=0.2,
    )

Обучение: 

 history = model.fit_generator(
    train_generator,
    epochs=nb_epochs,
    verbose=1,
    steps_per_epoch=steps_per_epoch,
    validation_data=valid_generator,
    validation_steps=val_steps_per_epoch,
    callbacks=[
        checkpoint,
        learning_rate_reduction,
        csv_logger,
        tensorboard_callback,
    ],
)
...