Прежде всего, IE действительно отображает сайты интрасети в режиме совместимости по умолчанию. Тем не менее, это настройка конфигурации, которую можно отключить: если это возможно, я бы предложил, чтобы первым решением было просто отключить эту настройку на всех компьютерах в вашей сети. (является ли это жизнеспособным решением, зависит от размера вашей сети, ваших групповых политик и от того, какие другие сайты интрасети будут затронуты)
Теперь, чтобы ответить на ваш вопрос.
Тип документа HTML5 может быть указан на любом сайте, который вы хотите отображать в стандартном режиме. Если вы уже используете XHTML, единственным эффектом для вас будет то, что браузер больше не будет жестко обеспечивать строгое соблюдение XHTML. Вы имеете полное право продолжать использовать код XHTML, но он не будет применен.
Специально выбран тип документа HTML5, поскольку он работает с существующими браузерами, включая более старые версии IE. Вы должны иметь возможность поместить его на любую страницу, и он должен просто работать.
Чего он не сделает, так это никак не повлияет на переход IE в режим совместимости. Также не будет никакого другого doctype. Упомянутое вами решение X-UA-Compatible
является решением этого (если вы не можете установить параметр конфигурации, о котором я упоминал ранее), и оно не связано с типом документа - оно вам все равно понадобится, даже если вы используете тип документа HTML5.