То, что у вас есть, не правильно, но вы были на правильном пути.
Ошибка, которую вы сделали:
T(n) = T(n-3) + n^c + (n-1)^c + (n-2)^c
T(n) = T(n-k) + n^c + (n-1)^c + (n-k+1)^c
Вы не можете просто перейти с первой строки на вторую строку.
Когда вы увеличиваете k, число терминов в правой части тоже увеличивается.
Чтобы увидеть, что подумайте о написании этого так:
T(n) - T(n-1) = n^c.
T(n-1) - T(n-2) = (n-1)^c
..
T(n-k) - T(n-k-1) = (n-k)^c.
..
T(2) - T(1) = 2^c
Чтопроизойдет, если вы сложите их?
Как только вы это сделаете, вы сможете увидеть, каким будет ответ для c = 1 и c = 2?Можете ли вы найти схему для окончательного ответа оттуда?