Попробуйте подставить T(n) = c*n
или T(n) = c * log n
в уравнение и решить. Будет разрешено одно из двух уравнений.
Вы также можете проверить свой ответ, оценив функцию для различных значений n.
-- Define T in your preferred language
t n | n <= 1 = 1 | otherwise = t (3/4 * n) + 1
-- If it's O(log n), then T(n)/log(n) should be asymptotically constant
-- If it's O(n), then T(n)/n should be asymptotically constant
check1 n = t n / log n
check2 n = t n / n
print [check1 1e10, check1 1e11, check1 1e12, check1 1e13]
print [check2 1e10, check2 1e11, check2 1e12, check2 1e13]
Один из них будет сходиться к небольшому положительному числу, другой - к нулю или бесконечности.