Вы не можете открыть файл для редактирования - это двоичный файл , в котором хранится внутреннее представление объектов данных R.
Вы действительно можете только прочитать его в R для созданияновый объект R, а затем сохраните измененную копию этого объекта R в новый или (тот же) файл .RDS.Пример:
config = readRDS("config.rds")
config$username = "fnord"
saveRDS(config, "config.rds")