Любое предпочтение, которое является глобальным и относится ко всем действиям, будет в глобальном файле. Теперь, сколько файлов вы должны создать, зависит в основном от вашего вкуса. Поскольку файлы свойств просто содержат пару имя / значение и не имеют группировки, не имеет значения, находятся они в одном файле или нет.
Я рекомендую один глобальный файл для настроек, это делает вашу жизнь очень легкой. Используйте ниже API:
SharedPreferences prefs = PreferenceManager.getDefaultSharedPreferences(this);
В этом нет имени файла. Таким образом, вы можете жить без каких-либо имен файлов настроек в вашем коде.
Относительно конкретного файла активности, используйте его, если у вас есть свойства, относящиеся к активности, которые вы хотите сохранить между сеансами, например, у вас есть позиция прокрутки для сохранения, чтобы при возврате даже после закрытия приложения вы могли восстановить его.
Для справки:
http://developer.android.com/guide/topics/data/data-storage.html#pref