Есть ли причина использовать RNN? Похоже, они скрывают скрытое состояние, поэтому нет ясного способа добавить штрафы за гладкость скрытых состояний.