Строка XpsDocument xpsDoc = new XpsDocument(filename, FileAccess.ReadWrite);
не открывает новый пустой документ XPS, а открывает существующий на диске. Как упоминалось в исключении, этот документ уже содержит корневой FixedDocumentSequence. Чтобы полностью перезаписать документ XPS, необходимо удалить существующий файл XPS, прежде чем пытаться сохранить новый файл на его месте.
Лучше всего позвонить Package.Open с FileMode OpenOrCreate | Truncate
, а затем передать этот пакет в вызов конструктору XpsDocument.