Ваш контрпример работает. Доказательство может выглядеть так:
Предположим, что f были O (g). Тогда существует положительная постоянная c и n0, такие что для n> = n0, f (n) <= c * g (n). Пусть n 'будет нечетным целым числом, большим или равным n0. Тогда мы имеем n '^ 4 <= c * n' ^ 3. Разделив обе стороны на n '^ 3, мы получим n' <= c. Однако это не может быть правдой для всех n '> n0; таким образом, есть даже n больше чем n0, для которых условие не выполняется, противоречие.
Доказательство наоборот - аналогично, за исключением того, что вы делите обе стороны на n '^ 2.
Я думаю, что контрпример, который вы определили, является хорошим для этого; функция, которая колеблется на асимптотически возрастающей величине, и функция, которая идет где-то посередине.