На самом деле
, вы можете разместить службу в любом управляемом приложении.
Почему вы хотите использовать сервисы WCF в качестве посредника между собственным win32 API?
Я не знаком с BHO, если вы действительно хотите это сделать, а BHO неуправляем, вы можете включить BHO в управляемый код.