Почему бы вам не оставить xhtml как есть и использовать другое пространство имен с псевдонимом для пользовательских тегов?
Редактировать
Я имею в виду что-то вроде: -
<html xmlns="http://www.w3.org/1999/xhtml" xmlns:a="urn:mycrop.com:mystuff">
<head>
<title>FooBar</title>
</head>
<a:site>
<a:header>foo</a:header>
<a:article>
<a:title>foo</a:title>
<p>foo bar <a href="#">foobar</a></p>
</a:article>
</a:site>
</html>
Конечно, это потерпит неудачу, если браузер строго ожидает XHTML, но в любом случае это действительно так.
Из ваших комментариев в другом месте этого вопроса похоже, что вы все равно выбрали XSLT в качестве таблицы стилей. В этом случае вам не нужно в любом случае включать какие-либо элементы HTML, просто предоставьте исходный XML-файл, содержащий данные, которые вы хотите отобразить.