Как я могу построить вывод сверточных слоев как точечный график?Это вообще возможно?

Question

Я хочу построить и увидеть, где точки данных лежат на любой n-мерной плоскости после прохождения через сверточный слой с целью классификации.Возможно ли это?

model = Sequential()
model.add(TimeDistributed(Conv2D(64, (2, 2), activation='relu', padding='same'), 
                          input_shape=(20,128, 128 ,1))) 

model.add(TimeDistributed(MaxPooling2D(pool_size=(2, 2))))
model.add(TimeDistributed(Conv2D(32, (3, 3), activation='relu', padding='same')))
model.add(TimeDistributed(MaxPooling2D(pool_size=(2, 2))))
model.add(TimeDistributed(Conv2D(16, (3, 3), activation='relu', padding='same')))
model.add(TimeDistributed(MaxPooling2D(pool_size=(2, 2))))

model.add(TimeDistributed(Flatten()))
model.add(LSTM(units=64, return_sequences=True))

model.add(TimeDistributed(Reshape((8, 8, 1))))
model.add(TimeDistributed(UpSampling2D((2,2))))
model.add(TimeDistributed(Conv2D(16, (3,3), activation='relu', padding='same')))
model.add(TimeDistributed(UpSampling2D((2,2))))
model.add(TimeDistributed(Conv2D(32, (3,3), activation='relu', padding='same')))
model.add(TimeDistributed(UpSampling2D((2,2))))
model.add(TimeDistributed(Conv2D(64, (2,2), activation='relu', padding='same')))
model.add(TimeDistributed(UpSampling2D((2,2))))
model.add(TimeDistributed(Conv2D(1, (3,3), padding='same')))

Приведенная выше модель.Я хочу построить вывод блока LSTM.Спасибо

Answer 1

Ниже приведена прекрасная визуализация модели LSTM, обученной распознавать язык жестов:

https://medium.com/asap-report/visualizing-lstm-networks-part-i-f1d3fa6aace7

Вот их хранилище кода: https://github.com/asap-report/lstm-visualisation