Должно работать, попробуйте выйти из вашей учетной записи в VS и войти снова.
Также убедитесь, что ваша учетная запись пользователя находится в Access policies
вашего keyvault на портале с правильным разрешением.
Затем попробуйте код ниже, чтобы получить секрет.
static void Main(string[] args)
{
var azureServiceTokenProvider1 = new AzureServiceTokenProvider();
var kv = new KeyVaultClient(new KeyVaultClient.AuthenticationCallback(azureServiceTokenProvider1.KeyVaultTokenCallback));
var secret = kv.GetSecretAsync("https://<keyvault-name>.vault.azure.net/", "<secret-name>").GetAwaiter().GetResult();
Console.WriteLine(secret);
}