График тензорной платы беспорядочный (узлы readvariableop_resource) с использованием tf.summay.trace_export - PullRequest
Новая
       62

График тензорной платы беспорядочный (узлы readvariableop_resource) с использованием tf.summay.trace_export

0 голосов
/ 10 июля 2020

Приведенный ниже код строит два графика тензорной доски для одной и той же модели, при использовании Keras API строит красивый простой график, используя tf.summary.trace_export (), добавляя для каждой переменной, определяемой в графе, узел в внешняя область видимости с суффиксом readvariableop_resource, что делает график действительно беспорядочным по мере увеличения количества параметров. (В приведенном ниже примере у нас есть 2 плотных слоя, каждый из которых имеет 2 переменных (ядро и смещение) всего 4 переменных (4 узла)) 

from datetime import datetime

import tensorflow as tf
from tensorflow import keras


# Define the model.
model = keras.models.Sequential([
    keras.layers.Flatten(input_shape=(28, 28)),
    keras.layers.Dense(32, activation='relu'),
    keras.layers.Dropout(0.2),
    keras.layers.Dense(10, activation='softmax')
])

model.compile(
    optimizer='adam',
    loss='sparse_categorical_crossentropy',
    metrics=['accuracy'])

(train_images, train_labels), _ = keras.datasets.mnist.load_data()
train_images = train_images / 255.0

# Define the Keras TensorBoard callback.
logdir="logs/fit/" + datetime.now().strftime("%Y%m%d-%H%M%S")
tensorboard_callback = keras.callbacks.TensorBoard(log_dir=logdir)

# Train the model.
model.fit(
    train_images,
    train_labels,
    batch_size=64,
    epochs=1,
    callbacks=[tensorboard_callback])


@tf.function
def traceme(x):
    return model(x)

logdir="logs/fit1/" + datetime.now().strftime("%Y%m%d-%H%M%S")
writer = tf.summary.create_file_writer(logdir)
tf.summary.trace_on(graph=True)
# Forward pass
traceme(tf.zeros((1, 28, 28, 1)))
with writer.as_default():
    tf.summary.trace_export(name="model_trace", step=0)

введите описание изображения здесь

...