Как интерпретировать гистограммы Tensorflow и графики распределения - PullRequest
0 голосов
/ 17 мая 2018

Я внедряю двухслойный РНН. Когда я запускаю код, у меня есть следующие графики весов и смещений для двух уровней RNN.

(Извините, не хватает репутации для добавления изображений на SO, пожалуйста, нажмите на ссылки.)

Участок для ячейки РНН 0

Участок для ячейки РНН 1

Глядя на эти графики, я не понимаю, обучается сеть или нет.

Не могли бы вы помочь мне интерпретировать эти сюжеты? Также будут приветствоваться общие ссылки на понимание гистограмм TF и ​​графиков распределения.

Большое спасибо!

1 Ответ

0 голосов
/ 17 мая 2018

Вы можете видеть, что распределение весовых коэффициентов в вашем графике изменяется (не сильно в целом, хотя, возможно, некоторые весовые коэффициенты сильно меняются), так что вы точно знаете, что происходит какое-то обучение . Что действительно скажет вам, если вы тренируетесь правильно, так это график функции потерь и, если возможно, некоторые другие метрики оценки (например, точность / точность) с течением времени, которые вы можете получить с помощью

tf.summary.scalar('loss', your_loss_tensor)
all_summaries = tf.summary.merge_all()  # Op that needs to be run in the sess.run() call.
...