Я предполагаю, что только один элемент может повторяться, и этот элемент не является предопределенным.
Вот формула, которая работает с A (размер алфавита), S (размер строки) и R (максимальное количество повторений):
f (A, S, R) = (A perm S) + A Сумма [r = 2 до R] ((S выбирает r) (A-1 perm Sr))
Например, для R = 1 (простая перестановка) мы получаем f (A, S, R) = (A perm S), как и ожидалось. Для A = S = R = 2 имеем f (A, S, R) = 4, что соответствует:
1,2
2,1
1,1
2,2
Случай, который вы описываете в вопросе: A = 10, R = 2, S = 4, и тогда мы имеем:
f (A, S, R) = 9360
(точно так, как рассчитал BlueRaja)