LSTM Внедрение выходного размера и № LSTM

Question

Я не уверен, почему у нас есть только выходной вектор размером 32, тогда как у нас есть LSTM 100?

Что меня смущает, так это то, что если у нас есть только 32 слова вектора, если выборка в LSTM, 32 LSTM должныдостаточно большой, чтобы держать его?

Model.add(Embedding(5000,32)
Model.add(LSTM(100)) 

Answer 1

Это гиперпараметры вашей модели, и нет лучшего способа установить их без экспериментов.В вашем случае может быть достаточно встраивания отдельных слов в вектор измерения 32, но LSTM будет обрабатывать их последовательность и может потребовать большей емкости (т. Е. Измерений) для хранения информации о нескольких словах.Без знания цели или набора данных трудно сделать обоснованное предположение о том, какими будут эти параметры.Часто мы смотрим на прошлые исследовательские работы, посвященные решению подобных проблем, и видим, какие гиперпараметры они использовали, а затем настраиваем их с помощью экспериментов.