Если вы хотите сохранить форму, вы можете просто сделать все, кроме верхних 5 для каждой строки NA
out <- t(apply(DF, 1, function(x) ifelse(x %in% tail(sort(x), 5), x, NA)))
colnames(out) <- colnames(DF)
rownames(out) <- rownames(DF)
out
# V1 V2 V3 V4 V5 V6 V7 V8 V9
# 1 NA 9 5 6 NA NA 8 7 NA
# 2 NA NA 8 5 7 NA 6 NA 9
# 3 NA 7 8 NA 9 NA 5 NA 6
# 4 NA 7 NA 8 6 NA NA 9 5
# 5 8 NA 6 NA 5 7 NA NA 9
# 6 8 NA NA 5 7 NA NA 9 6
# 7 NA 9 NA NA 6 NA 7 8 5
# 8 NA 6 NA 9 NA NA 8 5 7
# 9 NA NA 9 6 5 NA 8 7 NA
# 10 7 NA NA 5 NA 9 NA 8 6
Вы также можете печатать, не показывая все NA
s
print(out, na.print = '')
# V1 V2 V3 V4 V5 V6 V7 V8 V9
# 1 9 5 6 8 7
# 2 8 5 7 6 9
# 3 7 8 9 5 6
# 4 7 8 6 9 5
# 5 8 6 5 7 9
# 6 8 5 7 9 6
# 7 9 6 7 8 5
# 8 6 9 8 5 7
# 9 9 6 5 8 7
# 10 7 5 9 8 6
Другой вариант:
out <- t(apply(DF, 1, function(x){
o <- head(order(-x), 5)
paste0(names(x[o]), ':', x[o])
}))
as.data.frame(out)
# V1 V2 V3 V4 V5
# 1 V2:9 V7:8 V8:7 V4:6 V3:5
# 2 V9:9 V3:8 V5:7 V7:6 V4:5
# 3 V5:9 V3:8 V2:7 V9:6 V7:5
# 4 V8:9 V4:8 V2:7 V5:6 V9:5
# 5 V9:9 V1:8 V6:7 V3:6 V5:5
# 6 V8:9 V1:8 V5:7 V9:6 V4:5
# 7 V2:9 V8:8 V7:7 V5:6 V9:5
# 8 V4:9 V7:8 V9:7 V2:6 V8:5
# 9 V3:9 V7:8 V8:7 V4:6 V5:5
# 10 V6:9 V8:8 V1:7 V9:6 V4:5
Использованные данные (из ответа emsinko)
set.seed(1)
DF <- t(replicate(10,sample(1:9,9))) # random values
DF <- as.data.frame.matrix(DF)