Я пытаюсь построить сеть для обнаружения 68 наземных ориентиров (x, y) на лице.Обучающие и проверочные изображения имеют размеры 320x320x3, нормализованные от -0,5 до 0,5.Мои метки - 136 логитов, каждый от 0 до 1.0, соответствующий X -> (0, 320);Y -> (0, 320).Функция потерь - это keras "root_mean_square".Количество изображений в обучающем наборе данных составляет около 5 тыс.Во время тренировок мои потери в обучении и валидации начинаются примерно с 6,0 и уменьшаются примерно до 0,0022 за 100 итераций, но затем, кажется, насыщаются на этом уровне и не снижаются.Я пробовал до 2000 итераций.Глядя на результат, кажется, что сеть учится выводить 68 точек в форме лица в центре кадра, независимо от того, где на самом деле.
Я использую генератор для получения данных и использования sklearn.utils.shuffle(), чтобы убедиться, что мои данные перетасованы должным образом.
В некоторых сообщениях говорилось, что сеть может быть перегружена, потому что она настолько сложна для такой простой проблемы, поэтому я попробовал обе очень простые сети с примерно 10 слоями.и сложная сеть около 20 слоев и мой результат все тот же.Моя текущая сеть показана ниже, я использовал 2 пропущенных соединения, 3 отключения и регуляризатор l2, чтобы убедиться, что моя сеть не перегружена.Приспособление не должно быть проблемой, потому что я пытался обучить свою сеть до 2000 итераций.
Любые предложения о том, как решить эту проблему, очень приветствуются.Спасибо!
__________________________________________________________________________________________________
Layer (type) Output Shape Param # Connected to
==================================================================================================
input_1 (InputLayer) (None, 320, 320, 3) 0
__________________________________________________________________________________________________
conv2d_1 (Conv2D) (None, 320, 320, 3) 228 input_1[0][0]
__________________________________________________________________________________________________
batch_normalization_1 (BatchNor (None, 320, 320, 3) 12 conv2d_1[0][0]
__________________________________________________________________________________________________
activation_1 (Activation) (None, 320, 320, 3) 0 batch_normalization_1[0][0]
__________________________________________________________________________________________________
max_pooling2d_1 (MaxPooling2D) (None, 160, 160, 3) 0 activation_1[0][0]
__________________________________________________________________________________________________
conv2d_2 (Conv2D) (None, 160, 160, 8) 608 max_pooling2d_1[0][0]
__________________________________________________________________________________________________
batch_normalization_2 (BatchNor (None, 160, 160, 8) 32 conv2d_2[0][0]
__________________________________________________________________________________________________
activation_2 (Activation) (None, 160, 160, 8) 0 batch_normalization_2[0][0]
__________________________________________________________________________________________________
max_pooling2d_2 (MaxPooling2D) (None, 80, 80, 8) 0 activation_2[0][0]
__________________________________________________________________________________________________
conv2d_3 (Conv2D) (None, 80, 80, 16) 1168 max_pooling2d_2[0][0]
__________________________________________________________________________________________________
conv2d_4 (Conv2D) (None, 80, 80, 16) 2320 conv2d_3[0][0]
__________________________________________________________________________________________________
batch_normalization_3 (BatchNor (None, 80, 80, 16) 64 conv2d_4[0][0]
__________________________________________________________________________________________________
activation_3 (Activation) (None, 80, 80, 16) 0 batch_normalization_3[0][0]
__________________________________________________________________________________________________
max_pooling2d_4 (MaxPooling2D) (None, 40, 40, 16) 0 activation_3[0][0]
__________________________________________________________________________________________________
conv2d_5 (Conv2D) (None, 40, 40, 32) 4640 max_pooling2d_4[0][0]
__________________________________________________________________________________________________
conv2d_6 (Conv2D) (None, 40, 40, 32) 9248 conv2d_5[0][0]
__________________________________________________________________________________________________
conv2d_7 (Conv2D) (None, 40, 40, 32) 9248 conv2d_6[0][0]
__________________________________________________________________________________________________
batch_normalization_4 (BatchNor (None, 40, 40, 32) 128 conv2d_7[0][0]
__________________________________________________________________________________________________
activation_4 (Activation) (None, 40, 40, 32) 0 batch_normalization_4[0][0]
__________________________________________________________________________________________________
max_pooling2d_6 (MaxPooling2D) (None, 20, 20, 32) 0 activation_4[0][0]
__________________________________________________________________________________________________
dropout_1 (Dropout) (None, 20, 20, 32) 0 max_pooling2d_6[0][0]
__________________________________________________________________________________________________
conv2d_8 (Conv2D) (None, 20, 20, 64) 18496 dropout_1[0][0]
__________________________________________________________________________________________________
conv2d_9 (Conv2D) (None, 20, 20, 64) 36928 conv2d_8[0][0]
__________________________________________________________________________________________________
max_pooling2d_3 (MaxPooling2D) (None, 20, 20, 16) 0 conv2d_4[0][0]
__________________________________________________________________________________________________
conv2d_10 (Conv2D) (None, 20, 20, 64) 36928 conv2d_9[0][0]
__________________________________________________________________________________________________
concatenate_1 (Concatenate) (None, 20, 20, 80) 0 max_pooling2d_3[0][0]
conv2d_10[0][0]
__________________________________________________________________________________________________
batch_normalization_5 (BatchNor (None, 20, 20, 80) 320 concatenate_1[0][0]
__________________________________________________________________________________________________
activation_5 (Activation) (None, 20, 20, 80) 0 batch_normalization_5[0][0]
__________________________________________________________________________________________________
max_pooling2d_7 (MaxPooling2D) (None, 10, 10, 80) 0 activation_5[0][0]
__________________________________________________________________________________________________
dropout_2 (Dropout) (None, 10, 10, 80) 0 max_pooling2d_7[0][0]
__________________________________________________________________________________________________
conv2d_11 (Conv2D) (None, 10, 10, 128) 92288 dropout_2[0][0]
__________________________________________________________________________________________________
conv2d_12 (Conv2D) (None, 10, 10, 128) 147584 conv2d_11[0][0]
__________________________________________________________________________________________________
max_pooling2d_5 (MaxPooling2D) (None, 10, 10, 32) 0 conv2d_7[0][0]
__________________________________________________________________________________________________
conv2d_13 (Conv2D) (None, 10, 10, 128) 147584 conv2d_12[0][0]
__________________________________________________________________________________________________
concatenate_2 (Concatenate) (None, 10, 10, 160) 0 max_pooling2d_5[0][0]
conv2d_13[0][0]
__________________________________________________________________________________________________
batch_normalization_6 (BatchNor (None, 10, 10, 160) 640 concatenate_2[0][0]
__________________________________________________________________________________________________
activation_6 (Activation) (None, 10, 10, 160) 0 batch_normalization_6[0][0]
__________________________________________________________________________________________________
max_pooling2d_8 (MaxPooling2D) (None, 5, 5, 160) 0 activation_6[0][0]
__________________________________________________________________________________________________
dropout_3 (Dropout) (None, 5, 5, 160) 0 max_pooling2d_8[0][0]
__________________________________________________________________________________________________
flatten_2 (Flatten) (None, 4000) 0 dropout_3[0][0]
__________________________________________________________________________________________________
dense_3 (Dense) (None, 1024) 4097024 flatten_2[0][0]
__________________________________________________________________________________________________
dense_4 (Dense) (None, 136) 139400 dense_3[0][0]
==================================================================================================
Total params: 4,744,888
Trainable params: 4,744,290
Non-trainable params: 598
__________________________________________________________________________________________________