Я думаю, что нашел способ обойти это: Короче говоря, вместо использования CodePrimitiveExpression для вывода моей строки, я смог использовать CodeSnippetExpression, явно указав в нее свой строковый аргумент.
CodeExpression x = new CodeSnippetExpression("\"" + myLongString + "\"");
Работает в тех немногих случаях, когда мне приходилось его использовать, но, конечно, я не проверял все сценарии.