Пожалуйста, смотрите help(par)
и обсуждение типов линий.
Редактировать: Или просто попробуйте следующее:
plot(1:10, type='n', xlim=c(1,10), ylim=c(0,7))
for (i in 1:6) lines(1:10, rep(i, 10), lty=i)
, которая отображает шесть линий с шестью предопределенными типами линий.