Вы можете найти 60-й процентиль - отсечение для верхних 40% - показателя 1, используя quantile(df1$score1, 0.6)
.
Для того, что вы описываете как новый столбец значений A и B, я при условии, что вы хотите A, если он находится в верхних 40%, и B, если это не так? Чтобы получить это, вы можете сделать
df1$top40perc[df1$score1 >= quantile(df1$score1, 0.6)] <- "A"
df1$top40perc[df1$score1 < quantile(df1$score1, 0.6)] <- "B"
(возможно, есть способ объединить их, но я не уверен в этом с моей головы.)