Per Books Online, имя службы экземпляра по умолчанию, называемое MSSQLSERVER , а именованные экземпляры имеют имя службы MSSQL $ InstanceName . См. «Настройка учетных записей служб Windows» в электронной документации.
Я предполагаю, что есть теоретический случай, когда кому-то удалось установить MSSQL с разными именами служб, но это кажется крайне маловероятным. И если кто-то это делает, он должен ожидать проблем.
В зависимости от пользовательской базы целевого приложения, вы можете просто попытаться подключиться к экземпляру, и в случае сбоя попросить пользователя убедиться, что он работает, и имя указано правильно. Или вы можете перечислить все экземпляры на коробке и попросить их выбрать один (здесь есть несколько вопросов о перечислении экземпляров).