Вам необходимо указать его в словаре настроек компилятора, например:
var settings = new Dictionary<string,string>();
settings.Add("CompilerVersion", "v3.5");
var compiler = new CSharpCodeProvider(settings);
Неудивительно, что Google уже приводит несколько примеров этого; здесь и здесь .