tf.nn.softmax_cross_entropy_with_logits_v2, возвращающий ноль для MLP

Question

Я создал MLP с 3 скрытыми слоями для проблемы двоичной классификации и столкнулся с проблемами с моей функцией стоимости. В настоящее время я работаю с небольшим подмножеством данных, форма которых (большое количество функций из-за OHE):

x_train shape: (150, 1929)
y_train shape: (150, 1)
x_test shape: (51, 1929)
y_test shape: (51, 1)

А график тензопотока:

# Parameters
learning_rate = 0.01
training_epochs = 500
iter_num = 500
batch_size = 200
display_step = training_epochs/10


# Network Parameters
n_hidden_1 = 1000 # 1st layer number of features
n_hidden_2 = 100 # 2nd layer number of features
n_hidden_3 = 8 # 3rd layer number of features
n_input = num_features # Number of input feature
n_classes = 1 # Number of classes to predict


# tf Graph input
x = tf.placeholder(tf.float32, [None, n_input])
y = tf.placeholder(tf.float32, [None, n_classes])

# Create model
def multilayer_perceptron(x, weights, biases):
    # Hidden layer with sigmoid activation function
    layer_1 = tf.add(tf.matmul(x, weights['h1']), biases['b1'])
    layer_1 = tf.nn.sigmoid(layer_1)
    # Hidden layer with sigmoid activation function
    layer_2 = tf.add(tf.matmul(layer_1, weights['h2']), biases['b2'])
    layer_2 = tf.nn.sigmoid(layer_2)    
    #Hidden layer with sigmoid activation
    layer_3 = tf.add(tf.matmul(layer_2, weights['h3']), biases['b3'])
    layer_3 = tf.nn.sigmoid(layer_3)
    # Output layer with softmax activation
    out_layer = tf.matmul(layer_3, weights['out']) + biases['out']
    out_layer = tf.nn.softmax(out_layer)
    return out_layer

# Store layers weight & bias
weights = {
    'h1': tf.Variable(tf.random_normal([n_input, n_hidden_1])),
    'h2': tf.Variable(tf.random_normal([n_hidden_1, n_hidden_2])),
    'h3': tf.Variable(tf.random_normal([n_hidden_2, n_hidden_3])),
    'out': tf.Variable(tf.random_normal([n_hidden_3, n_classes]))
}

biases = {
    'b1': tf.Variable(tf.random_normal([n_hidden_1])),
    'b2': tf.Variable(tf.random_normal([n_hidden_2])),
    'b3': tf.Variable(tf.random_normal([n_hidden_3])),
    'out': tf.Variable(tf.random_normal([n_classes]))
}


# Construct model
pred = multilayer_perceptron(x, weights, biases)

# Define loss and optimizer
cost = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits_v2(logits=pred, labels=y))
optimizer = tf.train.GradientDescentOptimizer(learning_rate=learning_rate).minimize(cost)

correct = tf.cast(tf.equal(pred, y), dtype=tf.float32)
accuracy = tf.reduce_mean(tf.cast(correct, "float"))

init = tf.global_variables_initializer()
sess = tf.Session()
sess.run(init)

Затем я запускаю этот график с кодом:

# Training loop
loss_vec = []
test_loss = []
train_acc = []
test_acc = []
predic = []

for epoch in range(iter_num):
    rand_index = np.random.choice(len(train_X), size=batch_size)
    rand_x = train_X[rand_index]
    rand_y = train_y[rand_index]

    temp_loss = sess.run(cost, feed_dict={x: rand_x,y: rand_y})    
    test_temp_loss = sess.run(cost, feed_dict={x: test_X, y: test_y})
    temp_train_acc = sess.run(accuracy, feed_dict={x: train_X, y: train_y})
    temp_test_acc = sess.run(accuracy, feed_dict={x: test_X, y: test_y})

    temp_prediction = sess.run(pred, feed_dict={x: test_X, y: test_y})
    predic.append(temp_prediction)

    loss_vec.append(np.sqrt(temp_loss))
    test_loss.append(np.sqrt(test_temp_loss))
    train_acc.append(temp_train_acc)
    test_acc.append(temp_test_acc)
    # output

    if (epoch + 1) % (iter_num/10) == 0:
        print('epoch: {:4d} loss: {:5f} train_acc: {:5f} test_acc: {:5f}'.format(epoch + 1, temp_loss,
                                                                          temp_train_acc, temp_test_acc))  

Однако, когда я запускаю это, тест и точность поезда остаются постоянными, и потери остаются равными нулю для всех эпох.

Выход:

epoch:   50 loss: 0.000000 train_acc: 0.300000 test_acc: 0.235294
epoch:  100 loss: 0.000000 train_acc: 0.300000 test_acc: 0.235294
epoch:  150 loss: 0.000000 train_acc: 0.300000 test_acc: 0.235294
....

Я не могу понять, почему моя потеря равна нулю? Моя цель и предсказание, похоже, имеют одинаковую форму и определенно не равны.

Answer 1

tf.nn.softmax_cross_entropy_with_logits_v2 Вы уже вычислили softmax для вас, вам нужно передать неограниченные логиты в вашу функцию кросс-энтропии, а не распределение вероятностей, которое возвращает softmax. Попробуйте это:

def multilayer_perceptron(x, weights, biases):
    # ... 
    logits = tf.matmul(layer_3, weights['out']) + biases['out']
    out_layer = tf.nn.softmax(logits)
    return logits, out_layer

затем используйте logits для вычисления кросс-энтропии и out_layer для вывода.

logits, pred = multilayer_perceptron(x, weights, biases)
cost = tf.reduce_mean(
  tf.nn.softmax_cross_entropy_with_logits_v2(logits=logits, labels=y))

оптимизатор - это операция, которая вычисляет градиенты и применяет их к переменным. По сути, эта операция заставляет вашу сеть «учиться», вы объявили ее, но я не вижу, чтобы вы вызывали ее внутри цикла , Это должно сделать это:

_, temp_loss = sess.run([optimizer, cost], feed_dict={x: rand_x,y: rand_y})

У вас есть проблема двоичной классификации, я думаю, ваши метки равны 0 или 1. У вас также есть один выходной нейрон, softmax которого всегда будет возвращать 1.0. Я бы предложил создать 2 выходных нейрона, чтобы softmax вычислял распределение вероятности по 2 классам. Тогда ваш вывод является аргументом этого распределения:

correct = tf.cast(tf.equal(tf.argmax(pred, 1), y), dtype=tf.float32)
accuracy = tf.reduce_mean(correct)

В этом случае вам нужно использовать tf.nn.sparse_softmax_cross_entropy_with_logits () для расчета кросс-энтропии:

cost = tf.reduce_mean(
  tf.nn.tf.nn.sparse_softmax_cross_entropy_with_logits(logits=logits, labels=y))

Я бы также предложил вам взглянуть на этот пост для более подробной информации о том, о чем я говорю.