Аутентификация происходит перед обработкой любого запроса, после сбоя аутентификации служба не будет обрабатывать любой запрос, конечно, IDispatchMessageInspector не будет вызываться.
И когда произойдет аутентификация, клиент не отправит запрос в службу. Если вы хотите записать необработанное сообщение, вы можете вставить пользовательский BindingElement в привязку.