Почему мы используем функцию tanh в выходном логическом элементе LSTM, а также где релевантный вентиль используется в LSTM?

Question

Недавно, проходя через архитектуру LSTM, я обнаружил, что функция tanh используется в выходных логических элементах.

В лекции Эндрю Н.Г. 1003 *