Почему простая нейронная сеть не дает приемлемых результатов даже для тренировочного набора?

Question

Я хочу решить проблему двоичной классификации: вход сети составляет 35x10, вывод равен 1 или 0, и я хочу обучить его добавлению 1 новой выборки в каждую эпоху и удалению 1 старой (как скользящее окно). Вот мой код:

from keras.models import Sequential
from keras.layers.core import Dense, Activation, Flatten

df = pd.read_csv('all.csv')

X = df.iloc[:, 0:10].values
X = np.array(X)
Y = df.iloc[:, 10].values
Y = np.array(Y)

model = Sequential()
model.add(Flatten(input_shape=(35, 10)))
model.add(Dense(35))
model.add(Activation('relu'))
model.add(Dense(1))
model.add(Activation('sigmoid'))
model.compile(loss='binary_crossentropy', optimizer='adam', metrics=["accuracy"])

print(model.summary())
batch_size = 1
nb_classes = 2
nb_epoch = 1
input_size = 35

X = X[:1015]
Y1 = np.where(Y=="Move_scaner", 1, 0)[:1015]
no_of_samples = X.shape[0]
for i in range(no_of_samples-input_size):
    if i != 0:
        model.load_weights('./my_checkpoint')
    y = 1 if 1 in Y1[i:(i+input_size)] else 0
    x = X[i:(i+input_size)].reshape(1, 35, 10)
    model.fit(x, [y],
              batch_size, nb_epoch)
    model.save_weights('./my_checkpoint')


eval_results = []
accuracy = []
for j in range(no_of_samples-input_size):
    y = 1 if 1 in Y1[j:(j + input_size)] else 0
    x = X[j:(j + input_size)].reshape(1, 35, 10)
    ev_res =model.evaluate(x, [y], verbose=0)
    eval_results.append(ev_res)
    accuracy.append(ev_res[1]*100)
    print("Loss on train data: {} Accuracy: {}%".format (ev_res[0],  ev_res[1]*100))


unique, counts = np.unique(accuracy, return_counts=True)
d = dict(zip(unique, counts))
print(d)

Сводка модели:

Model: "sequential_1"
_________________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
flatten_1 (Flatten)          (None, 350)               0         
_________________________________________________________________
dense_1 (Dense)              (None, 35)                12285     
_________________________________________________________________
activation_1 (Activation)    (None, 35)                0         
_________________________________________________________________
dense_2 (Dense)              (None, 1)                 36        
_________________________________________________________________
activation_2 (Activation)    (None, 1)                 0         
=================================================================
Total params: 12,321
Trainable params: 12,321
Non-trainable params: 0

Каждую эпоху я получаю точность = 1 и потерю = 0 Но это вывод после выполнения оценки:

Loss on train data: 116.31327819824219 Accuracy: 0.0%
Loss on train data: 107.40914154052734 Accuracy: 0.0%
Loss on train data: 101.50980377197266 Accuracy: 0.0%
....# here a lot of zeros
Loss on train data: 65.45806121826172 Accuracy: 0.0%
Loss on train data: 65.6653060913086 Accuracy: 0.0%
Loss on train data: 73.23053741455078 Accuracy: 0.0%
Loss on train data: 1.7928523758674385e-32 Accuracy: 100.0%
Loss on train data: 6.712029695306438e-35 Accuracy: 100.0%
Loss on train data: 4.285122127232612e-33 Accuracy: 100.0%
Loss on train data: 1.7302612471686554e-35 Accuracy: 100.0%
Loss on train data: 1.5139565830394122e-37 Accuracy: 100.0%
Loss on train data: 0.0 Accuracy: 100.0%
Loss on train data: 0.0 Accuracy: 100.0%
...
Loss on train data: 0.0 Accuracy: 100.0%
Loss on train data: 0.0 Accuracy: 100.0%
Loss on train data: 0.0 Accuracy: 100.0%

И результат, который я получаю: 368 результатов с нулевой точностью, 612 результатов с 100% точностью. Очевидно, что модель не обучена должным образом. Что с ним не так?

Answer 1

Возможно, ваша модель колеблется из-за неадекватной скорости обучения, поэтому я предлагаю вам две вещи:

1.- Вместо Адама используйте SGD для проверки того, что модель способна чему-то научиться. 2.- Настройте скорость обучения, маленькие значения часто лучше, когда у вас есть проблемы и вы не знаете, способна ли модель обобщать знания.

Дополнительно: попробуйте пакетное обучение, возможно, партиями по 20 элементов или что-то такое.