Один из вариантов будет rank
rank(tHSVcol[,1])
#[1] 3 2 1 5 4
данные
tHSVcol <- structure(c(0.6229508, 0.2767296, 0.1323283, 0.9790476, 0.9093567,
0.6421053, 0.5145631, 0.7928287, 0.951087, 0.5480769, 0.372549,
0.8078431, 0.9843137, 0.7215686, 0.4078431), .Dim = c(5L, 3L), .Dimnames = list(
NULL, c("h", "s", "v")))