Проблема очень простая и общая. Я только что обновил rstudio до последней версии, и когда я запускаю простой plot(1), я получаю следующий график. Обратите внимание, что это происходит также на обычной консоли.
PS: Я работаю на Ubuntu 18.04 и R устанавливается вместе с linuxbrew.