Прежде всего, файл не может быть текстовым и двоичным одновременно: если он содержит двоичные данные, это двоичный файл.Но из вашего описания кажется, что это текстовый файл с некоторыми двоичными данными в текстовой форме.
Если вы знаете, что такое имя корневого тега, используйте поиск по подстроке, чтобы найти начало и конец XML-документа, «вырезать»это, и тогда вы можете обработать его так, как вы хотите.