Тензорный поток дает случайные ответы на проблему регрессии - PullRequest
Новая
       30

Тензорный поток дает случайные ответы на проблему регрессии

2 голосов
/ 29 мая 2019

Я пытаюсь воспроизвести упражнение Python с Node.js, используя Tensorflow.js.

Цель состоит в том, чтобы просто преобразовать градусы Цельсия в градусы Фаренгейта с помощью машинного обучения.

Тем не менее, я новичок в Tensorflow.js, и он продолжает давать мне случайные ответы.

Я пробовал разные вещи, например, разные формы.Я проверил, что и Python, и Node.js имеют одинаковые модели.Они оба имеют следующую модель: 

Layer (type)                 Output shape              Param #   
=================================================================
dense_Dense1 (Dense)         [null,1]                  2         
=================================================================
Total params: 2
Trainable params: 2
Non-trainable params: 0

const tf = require("@tensorflow/tfjs-node")

function convert(c){
    return (c*1.8)+32 // Convert celsius to fahrenheit
} 

var celsius = []
var fahrenheit = []

for (let i = 0; i < 20; i++) {
    var r = 100; // Keeping this only value to ensure that Tf knows the answer I also have tried with 20 different values but doesn't work
    celsius.push([r]) // Shape [20,1]
    fahrenheit.push([convert(r)]) // Push the answer (212) to the fahrenheit array
}

var model = tf.sequential();
model.add(tf.layers.dense({inputShape:[1], units: 1}))

async function trainModel(model, inputs, labels) {
    // Prepare the model for training.  
    model.compile({
      optimizer: tf.train.adam(),
      loss: tf.losses.meanSquaredError,
      metrics: ['accuracy'], // Accuracy = 0
    });

    model.summary(); 

    const epochs = 500;

    return await model.fit(inputs, labels, {
      epochs,
      batchSize: 20, 
      verbose: false // Nothing interesting with verbose
    });
  }

c = tf.tensor(celsius)
f = tf.tensor(fahrenheit)

var training = trainModel(model, c, f)

training.then(function(args){
    var prediction = model.predict(tf.tensor([[100]]));
    prediction.print(); // Prints a random number
    console.log("Real answer = "+convert(100)) 
})

Значение выходного тензора случайным образом меняется каждый раз.Вот пример: 

Tensor
     [[65.9411697],]
Real answer = 212

Ответы [ 2 ]

3 голосов
/ 31 мая 2019

Оптимизатор Адама работает, когда я добавил еще 3 более плотных слоя к модели.но я заставил его работать на Адаме на питоне только с одним слоем. 

xs = []
ys = []

for (var i = -100; i < 100; i++) {
  xs.push(i)
  ys.push( i*1.8 + 32)
}

console.log(xs,ys)

model = tf.sequential({
  layers: [
    tf.layers.dense({
            units: 4,
            inputShape: [1]
        }),
        tf.layers.dense({
            units: 4,
            inputShape: [4]
        }),
        tf.layers.dense({
            units: 4,
            inputShape: [4]
        }),
        tf.layers.dense({
            units: 1,
            inputShape: [4]
        })
  ]
})


model.compile({
  loss: 'meanSquaredError',
  optimizer: 'adam'
})

var tfxs = tf.tensor2d(xs,[xs.length,1])
var tfys = tf.tensor2d(ys,[xs.length,1])


model.fit(tfxs, tfys,{epochs: 500}).then(function() {
  model.predict(tfxs).print()
})
3 голосов
/ 29 мая 2019

Кажется, главная проблема - оптимизатор. - Если вы тренируетесь с оптимизатором SGD. прогноз работает отлично. 

const tf = require("@tensorflow/tfjs-node")
const nr_epochs=500; 

function convert(c){
  return (c*1.8)+32 // Convert celsius to fahrenheit
} 


let celsius = []
let fahrenheit = []

for (let i = 0; i < 100; i++) {
  var r = 100; // Keeping this only value to ensure that Tf knows the answer
  celsius.push(i) // Shape [20,1]
  fahrenheit.push(convert(i)) // Push the answer (212) to the fahrenheit array
}

const train = async (xy, ys) => {
  const model = tf.sequential();

  model.add(tf.layers.dense({units: 1, inputShape: [1]}));

  model.compile({loss: 'meanSquaredError', optimizer: 'sgd'});
  await model.fit(xs,ys,{epochs: nr_epochs})
  return model;
}

const predict =  (model, n) => {
  const predicted =  model.predict(tf.tensor2d([n],[1,1])); 
  return predicted;
}

const xs = tf.tensor2d(celsius.slice (0,15), [15,1]);
const ys = tf.tensor2d(fahrenheit.slice (0,15), [15,1]);
(async () => {
  let trained = await train (xs,ys);
  for (let n of [4,6,12]) {
    let predicted = predict (trained, n).dataSync ();
    console.log (`Value: ${n} Predicted: ${predicted [0]}`)
  }
})()

Журналы: 

Value: 4 Predicted: 38.01055908203125
Value: 6 Predicted: 42.033267974853516
Value: 12 Predicted: 54.101402282714844
...