Единственное, о чем я могу думать, это то, что IIS каким-то образом перезаписывает страницу ошибки modX.
Я знаю в Apache, что могу поиграться с файлом .htaccess, чтобы установить ErrorDocument, но я не знаю, как работает IIS.
Возможно, предыдущие вопросы SO на " custom 404 page на IIS " могли бы дать вам некоторые подсказки о том, как настроена ваша система.