InstallShield требует частного сервера сборки. Вы не можете использовать размещенные серверы сборки, потому что InstallShield не установлен. Он не может быть подключен к XCOPY, требует установки администратора и имеет схему DRM license.key, привязанную к MAC-адресу.
WiX лучше работает на хост-серверах, но все же не идеален, потому что вам нужно отключить проверку MSI. Проверка требует прав администратора или не проходит.
Помимо этого ограничения, я перенес много сред TFS в VSTS, и он будет прекрасно работать с InstallShield.