Как выглядит процесс в LSTM, когда у него больше временных шагов, чем единиц?

Question

Я недавно начал работать с LSTM, и пока все работает нормально. Но есть один вопрос, на который я пока не смог найти ответ: когда на больше временных шагов, чем на единицы , как выглядит процесс в слое LSTM?

Я использую keras в R для моделирования температуры. Это архитектура:

model <- keras_model_sequential() %>%
layer_lstm(units = 30, input_shape = c(timesteps = 60, features = 2)) %>%
layer_dense(units = 1)

Answer 1

На самом деле LSTM блокирует процесс один шаг за один раз. Аргумент units на самом деле является размерностью выходного пространства. Так что это в основном не имеет ничего общего с размером временных шагов.

В частности, вход и выход LSTM или RNN должны выглядеть следующим образом:
(временной шаг, input_dim) -> LSTM -> (временной шаг, output_dim)

Однако аргумент return_sequences по умолчанию равен False (в Keras Python, не уверен с R). Таким образом, слой LSTM вернет состояние шага времени last по умолчанию. Вот почему вы можете подключить его к плотному слою.