NumHiddenUnits в LSTM

Question

Когда мы создаем слой LSTM в matlab, мы указываем numHiddenUnits как layer = lstmLayer(numHiddenUnits). У меня есть два вопроса по этому поводу.

(1): Что означает numHiddenUnits?

Представляет ли оно количество LSTM ячеек? Если да, то эти ячейки соединены последовательно или параллельно (не взаимодействуя между собой).

К сожалению, нет способа визуализировать (RNN) сеть. Я понимаю, как работает одна ячейка LSTM, но я понятия не имею, как выглядит следующая архитектура.

Мои сети состоят из этих слоев.

layers = [ ...
    sequenceInputLayer(numFeatures)
    lstmLayer(numHiddenUnits)
    fullyConnectedLayer(numResponses)
    regressionLayer];

(2): Как это как выглядит архитектура?

Мой подход: я попытался сделать набросок и думаю, что это должно выглядеть так.

Answer 1

1. numHiddenUnits - это размерность скрытого состояния LSTM. Например, если вы установите numHiddenUnits = 5, то вывод LSTM будет 5-мерным вектором. Таким образом, он не представляет количество ячеек LSTM.

2. Этот урок поможет вам лучше понять вашу модель. Ваша модель работает так: Каждый раз, когда LSTM получает входные данные и обрабатывает их, НО не выводит до последнего временного шага. На последнем временном шаге ваш LSTM выводит вектор и отправляет его на полностью подключенный слой и дает вам значение регрессии. С вашим эскизом все будет в порядке, если только последняя ячейка LSTM отправит выходные данные полностью подключенному слою, а не всем.

Надеюсь, это поможет