Как выбрать значение выходных нейронов для скрытого слоя модели tf.keras?

Question

Я новичок в Keras и начинаю с этого кода из учебника tf:

# choosing the layers of my models 
model = keras.Sequential([ # the sequential model of Keras library 
    keras.layers.Flatten(input_shape=(28, 28)), # the first input layer
    keras.layers.Dense(128, activation='relu'),# the hidden layer 
    keras.layers.Dense(10)# output layers and 10 corresponds to the number of used classes 
])

Интересно, каково значение 128? и как это было рассчитано?

Answer 1

128 - это гиперпараметр, который представляет собой количество узлов в вашем втором и последнем слое.

Он не рассчитан, вы можете изменить его на любое, попробуйте [18,32,64...etc]. Чем больше вы сделаете это, тем медленнее будет ваша тренировка; однако ваша модель может быть более точной, так как есть больше узлов для захвата сигнала вашего набора данных.

Answer 2

Не рассчитывается, это гиперпараметр (параметр, который не оценивается данными, но выбирается you до запуска модели). Это существенно определяет сложность модели. Чем больше нейронов, тем более сложные отношения он может моделировать в данных.