размер полностью связанного слоя

Question

Я использую виртуальную сеть для классификации изображений. Я создал ее с нуля

Я получил хороший результат по сравнению с литературной

сетевая архитектура:

model = Sequential()
model.add(Conv2D(24,kernel_size=3,padding='same',activation='relu',
        input_shape=(n,n,1)))
model.add(MaxPool2D())
model.add(Conv2D(48,kernel_size=3,padding='same',activation='relu'))
model.add(MaxPool2D())
model.add(Conv2D(64,kernel_size=3,padding='same',activation='relu'))
model.add(MaxPool2D(padding='same'))
model.add(Conv2D(96,kernel_size=3,padding='same',activation='relu'))
model.add(MaxPool2D(padding='same'))
model.add(Flatten())
model.add(Dense(128, activation='relu'))    # SIZE 128  FC1
model.add(Dropout(0.5))
model.add(Dense(256, activation='relu'))   # SIZE 256   FC2
model.add(Dropout(0.5))
model.add(Dense(12, activation='softmax'))
model.compile(optimizer="adam", loss="categorical_crossentropy",metrics=[recall, fmeasure,precision,"accuracy"])  

КакВы можете видеть, что мой первый полностью подключенный слой (FC1) имеет размер 128, а следующий размер 256 (FC2)

Разве не глупо иметь размер FC2 больше, чем FC1?Как рассчитать значение на FC2?

Answer 1

Это не глупо или неправильно, но необычно.Когда вы пытаетесь делать прогнозы, общая идея состоит в том, чтобы постепенно уменьшить количество нейронов в полностью связанном слое, прежде чем вы достигнете выходного слоя.Если увеличение размера - это то, что работает для ваших данных, то в этом нет ничего плохого.Просто помните, что больше нейронов может привести к перегрузке ваших данных, а также к увеличению времени вычислений.

Не существует правила для расчета размера слоев FC.Много раз, первый слой FC имеет такое же количество нейронов, что и длина вектора, полученного выравниванием последнего слоя перед полностью соединенным слоем, но это старый метод, который не нужен и не гарантирует хороших результатов.