Вы должны использовать WorkflowServiceHost вместо обычного ServiceHost. WorkflowServiceHost выполняет все обычные функции, связанные с WCF, но также обеспечивает создание среды выполнения рабочего процесса и настройку необходимой среды маршрутизации рабочего процесса.
См. это сообщение в блоге о том, как это сделать. Этот второй пост показывает немного больше о том, как изменить конфигурацию.
КСТАТИ. В общем случае вы должны использовать привязки контекста, такие как basicHttpContextBinding и wsHttpContextBinding, поскольку они передают контекстную информацию, содержащую instanceId рабочего процесса, с сообщениями.