Использовать Regex.Replace
для этого излишне.Вместо этого используйте Trim
.
string output = input.Trim(' ', '\t', '\n', '\v', '\f', '\r', '"');
И если вы хотите удалить только пробелы, которые вне кавычек, оставив все, что внутри:
string output = input.Trim().Trim('"');