О, дорогой, пока в туалете у меня была мозговая волна, и я думаю, что я все-таки сам ее исправил - извините за пост! Я думаю, что объясню, что это исправило, хотя в случае, если другие новички, следующие той же книге Wix, что и я, столкнутся с той же проблемой.
По сути, я изменил Guid на своем компоненте, переустановил, удалил, и все снова заработало. (Я понимаю, что смена гидов может быть не лучшей практикой, но это сработало для меня.)
Чтобы уточнить, я думаю, что с моим установщиком вообще не было никаких проблем - проблема была на ПК, который я использовал для проверки установки. Моя первая попытка установки этой службы Windows была сделана без элемента ServiceControl, только с элементом ServiceInstall. Затем я протестировал установку, и она работала, но служба не удаляла себя при удалении, очевидно. Затем я вручную остановил и удалил службу с моего компьютера, используя Services.msc.
Затем я прочитал следующий раздел своей книги, понял, что мне также нужен элемент ServiceControl, создал его и повторно попробовал установщик - но я использовал тот же Guid. Удаление по-прежнему не работает должным образом, и я предположил, что сделал что-то не так в моем установщике, поэтому пост выше.
Я предполагаю, что это произошло из-за того, что предыдущая установка с использованием того же Guid, но без элемента ServiceControl, как-то повредила мой компьютер и не позволила новой программе удаления завершиться правильно.
Пусть это будет для меня уроком - никогда не тестируйте свой установщик на своем ПК! Одно из тех правил, которые я полностью понимаю и с радостью игнорирую, пока оно не кусает меня:)