Я не запускаю OSX, но вы можете попытаться запустить R из приложения Terminal, а не из панели запуска Mac OSX, и посмотреть, работает ли он так, как вам нужно.
Как пишет Матти, вы можете отправитьвывод в файлы с помощью следующих команд;но я не знаю, действительно ли это суть вашего вопроса.
png("pngfile.png")
plot(foo)
title(main="bar")
dev.off()
Таким образом, вместо кварцевого графического объекта, ваш вывод идет в файл.
Аналогично, вы можете вывестичто обычно появляется в терминале в файл.
sink("foo.file")