Определение tf.Variables (используя список?) - PullRequest
0 голосов
/ 10 февраля 2019

Я начинаю с Tensorflow, и до сих пор я имел дело только с «неглубокими» сетями прямой связи или нейронными сетями с небольшим количеством скрытых слоев, чьи соответствующие W были определены индивидуально таким образом, как этот (пример соответствуетна инициализацию сети с пятью скрытыми слоями):

  W1 = tf.Variable(tf.truncated_normal([784,200], mean=0.0, stddev=0.1))
  W2 = tf.Variable(tf.truncated_normal([200,100], mean=0.0, stddev=0.1))
  W3 = tf.Variable(tf.truncated_normal([100,60], mean=0.0, stddev=0.1))
  W4 = tf.Variable(tf.truncated_normal([60,30], mean=0.0, stddev=0.1))
  W5 = tf.Variable(tf.truncated_normal([30,10], mean=0.0, stddev=0.1))
  b1 = tf.Variable(tf.truncated_normal([200]))
  b2 = tf.Variable(tf.truncated_normal([100]))
  b3 = tf.Variable(tf.truncated_normal([60]))
  b4 = tf.Variable(tf.truncated_normal([30]))
  b5 = tf.Variable(tf.truncated_normal([10]))

Мой вопрос заключается в том, существует ли какой-либо механизм для передачи глубины NN в качестве гиперпараметра (при указании количества узлов на слой),чтобы вы могли избежать этого шага в случае, если вы имеете дело с более глубокими сетями.

Большое спасибо заранее, и, возможно, удачных выходных.

1 Ответ

0 голосов
/ 10 февраля 2019

Мне не известна ни одна функция, которая принимает список размеров слоя и выводит сеть с прямой связью, но это было бы относительно простой функцией для написания, если вы используете API Keras, включенный в Tensorflow,

https://www.tensorflow.org/tutorials/keras/basic_classification

Вы можете написать функцию, которая принимает список размеров слоев и нелинейностей (relu, sigmoid, ...) и выводит сеть прямой связи с использованием keras.Sequential класс.Keras - это высокоуровневый API для создания нейронных сетей, который уже включен в Tensorflow.Кроме того, Tensorflow стремится сделать его еще более центральным в версии 2.0 (https://medium.com/tensorflow/standardizing-on-keras-guidance-on-high-level-apis-in-tensorflow-2-0-bad2b04c819a)

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...