Я хочу объединить модель керас только с FC-слоем

Question

У меня есть модель keras только с FC-слоем (Dense). У меня есть класс с изображениями поездов 227*227 и 100, в каждом классе по 1 изображению поезда, я бы хотел надеть и получить 100% точность обучения.

Isuue: Я пытался присматривать за моделями гиперпараметров, но они не сходятся до 100% точности поезда. Хотя, это просто FC-слой даже.

Вот мой код:

X_train, y_train = ...

# Create a Keras Model
model = Sequential()
model.add(Dense(100, input_dim=input_dim, activation='softmax',
                kernel_regularizer=regularizers.l2(0.01),
                activity_regularizer=regularizers.l1(0.01)))
model.compile(optimizer='rmsprop',
              loss='categorical_crossentropy',
              metrics=['accuracy'])
model.summary()

# Callback and training
csv_logger = CSVLogger('training_log_v1.csv')
model.fit(x_train, y_train, epochs=10000, batch_size=100, callbacks=[csv_logger])

Вот график для кода выше.

Я провел разные эксперименты с гиперпарамами с 10–20 тыс. Эпох. Потери после некоторых эпох не уменьшаются и нет улучшения точности поезда.

Я пытался играть с разными оптимизаторами (и гиперпарамами), а также с регуляризацией. Здесь не так много гиперпараметров, кроме оптимизаторов и регуляризаторов, верно?

Если кто-нибудь может мне помочь в сближении модели, это было бы здорово. Спасибо!

Answer 1

Я могу надеть.Гиперпараммы, которые я использовал для переоснащения этого эксперимента.

Class: 100
Samples_per_class: 1

kernel_regularizer=regularizers.l2(0.01)
activity_regularizer=regularizers.l1(0.01)

Op: Adam
lr: 0.00001

Epochs set to: 50000
batch_size: 256

Я получил 99% точности Трейна @around 12K и продолжал уменьшать потери до 25K эпох.