Вот, пожалуйста. ChildNodeName, может быть просто именем узла или запросом XPath.
XmlDocument doc = new XmlDocument();
// Load you XML Document
XmlNode childNode = doc.SelectSingleNode(childNodeName);
// Remove from the document
doc.RemoveChild(childNode);
Существует другой способ использования Linq, но я догадался, что вы используете .NET 2.0