Абсолютно возможно разместить в службе Windows и защитить службу WCF.Для аутентификации имени пользователя вы все равно можете использовать модель RoleProvider, если это то, что вы хотите сделать, или вы можете написать пользовательский валидатор userName
Модель WCF заключается в том, что все функции WCF должны быть доступны независимо отсреда хостинга.Единственный раз, когда это меняется, если вы выбираете режим совместимости ASP.NET
Редактировать: добавлена проводка в конфигурации поставщика роли клиента
Чтобы настроить имена пользователей с поставщиком роли, используйтеследующий конфиг
<serviceBehaviors>
<behavior>
<serviceCredentials>
<userNameAuthentication membershipProviderName="myCustomRoleProvider"/>
</serviceCredentials>
</behavior>
</serviceBehaviors>