Я не могу найти какую-либо информацию о том, следует ли мне удалять / закрывать этот объект после его использования ... Вот ссылка msdn: http://msdn.microsoft.com/en-us/library/bb343181.aspx
Нет, вы этого не сделаете - он даже не реализует IDisposable.Классы XDocument и XElement используют XmlReader под крышками и управляют утилизацией основного считывателя для вас.
IDisposable
XDocument
XElement
XmlReader
Самый простой способ выяснить это посмотреть, если он реализует IDisposable