Вы можете присоединиться к запущенному сервису из visual studio, как предлагает Тимо Гойш. После этого вы можете установить точку останова в вашем коде. Вы также можете добавить вызов к функции DebugBreak в том месте, где вы хотите отлаживать свою библиотеку. Это может помочь вам, если код, который вы хотите отладить, выполняется перед тем, как вы сможете присоединиться к процессу (например, если ваш код выполняется в обработчике события запуска службы).
РЕДАКТИРОВАТЬ: Вы можете подключиться к любому сервису, даже если у вас нет отладочной информации для него, но в этом случае вы не сможете увидеть трассировку стека над вызовом функции.