Когда использовать RNN или LSTM - PullRequest
1 голос
/ 27 апреля 2019

В чем разница между RNN и LSTM и когда мы используем одну из этих моделей?

1 Ответ

0 голосов
/ 14 мая 2019

Не совсем.RNN, Recurrent Neural Networks хорошо работает для некоторых задач, но поскольку некоторые проблемы возникают из-за использования RNN, такого как «Взрывающийся градиент» или «Исчезающая проблема градиента», стало стандартным использование LSTM, который является типом RNN, который решает эти проблемы.

Взрывающиеся / исчезающие градиенты случаются, когда вы распространяетесь обратно по длинной сети, и поскольку вы продолжаете умножать градиент по мере движения, он может либо возрасти, либо переполниться, либо стать очень очень маленьким, если онне будет иметь никакого эффекта больше.

LSTM решает эту проблему с помощью механизма, называемого Gated Recurrent Unit.Поскольку он решает проблемы, с которыми обычно сталкивается стандарт RNN, LSTM используется более широко.

Для вас действительно важно понимать эти темы, поэтому я бы посмотрел этот блог, он прекрасно объясняет их с помощью графиков и примеров.https://skymind.ai/wiki/lstm

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...