как я могу найти асимптотическое поведение во время выполнения любого алгоритма?
Вам нужно вывести формулу для числа шагов, которые алгоритм выполняет в своих циклах / рекурсиях, исходя из размера входного n, а затем взять суммирование. http://en.wikipedia.org/wiki/Analysis_of_algorithms имеет пример.