Я бы объединил два элемента Service Control, чтобы они стали:
<ServiceControl Id="scBSS" Name="Borland Socket Server" Stop="both" Start="install" Wait="yes" Remove="uninstall"/>
Хотя это, вероятно, не ваша проблема. Установщик пытается запустить его во время установки? Вы получаете сообщение об ошибке? Если вы попытаетесь запустить его после установки, вы получите сообщение об ошибке? Вы профилировали / отлаживали сам сервис, чтобы удостовериться, что вы не пропустили и зависимости, или данные конфигурации, или выбросили какие-либо исключения в коде?