RSS - это XML. У этого есть очень определенные правила для кодирования HTML. Если вы генерируете его, я бы порекомендовал использовать библиотеку xml для написания узла, содержащего HTML, чтобы убедиться в правильности кодировки.
HTMLencode будет выполнять только экранирование, необходимое для встраивания данных в HTML, правила XML более строгие.