Даже если вы компилируете под 2.0, я все равно рекомендую использовать 3.5.
Время выполнения CF 3.5 быстрее. В значительной степени так в некоторых областях (например, синтаксический анализ XML). Приложения 2.0 также можно запускать на платформе 3.5 с настройкой файла app.config или machine.config.
3.5 также содержит некоторые исправления ошибок, которые могут повлиять или не повлиять на вас, а также имеет лучшую обработку внутренних исключений, поэтому, если вы сталкиваетесь с проблемами, часто проще их устранять.
Я бы также рекомендовал 3.5 лично, чтобы вы могли использовать LINQ и другие функции компилятора 3.0.