Короткий ответ: XML-подобный документ с недопустимыми символами не является допустимым XML-документом, и его необходимо сделать допустимым.
У вас есть два возможных исправления.Первое, о чем вы уже намекали, - заменить недопустимые символы на сущности.Второе - обернуть любой контент недопустимыми символами в разделы CDATA;вам не придется иметь дело с какими-либо проблемами кодирования содержимого в этих разделах.
Если ни один из этих вариантов не подходит, вам нужно будет выяснить, как анализировать документ с помощью анализатораэто не заботится о недопустимых символах, что, вероятно, является плохой идеей, и ее следует избегать, если это вообще возможно.