Вы уверены, что хотите использовать Regex для этого?На самом деле я думаю, что вы должны использовать их только тогда, когда вам нужно.
Почему бы вам не рассмотреть что-то вроде (при условии, что HTML правильно сформирован и что нет вложенных абзацев):
string html = GetRSS();
int pStartIndex = html.LastIndexOf("<p>");
int pEndIndex = html.LastIndexOf("</p>");
string result = html.Remove(pStartIndex, pEndIndex - pStartIndex + 4);
В качестве альтернативы вы могли бы рассмотреть возможность использования чего-то более продвинутого (и, возможно, уместного), такого как HTML Agility Pack или (что еще хуже, если вы работаете с плохо сформированным html) встроенным парсером XML .NET ( РЕДАКТИРОВАТЬ: Как говорит svicks, если вы выберете это решение, убедитесь, что вы работаете с HTML, который также является допустимым XML ).