Сетка, кажется, имеет другие цели, поэтому я не мог найти способ, но это очень просто с аблайном.В случае, если вы передумаете об аблине, вот путь:
plot(NA, xlim=c(0,1.0), ylim=c(0,1.0), xlab="X", ylab="Y", lwd=3)
#Add horizontal grid
abline(h = c(seq(from=0, to=1.0, by=0.1)), lty = "dotted", col = "grey")
#Add vertical grid
abline(v = c(seq(from=0, to=1.0, by=0.1)), lty = "dotted", col = "grey")