Извините, если это кажется чем-то отстраненным, но я думаю, что это хитрый вопрос (как намекал Александр С), поскольку это довольно большое злоупотребление нотацией.
То, как обычно преподаются нотации big-O (особенно на уроках информатики), заключается в том, что O (f (n)) - это функция. Это должно отключить некоторые сигналы тревоги, так как операторы «n = O (n)» и «2n = O (n)» оба являются истинными, а «n = 2n» - нет. Если мы хотим сказать «f (n) - это big-O of g (n)», технически мы не должны говорить «f (n) = O (g (n))», скорее мы должны сказать «f (n) ) является элементом O (g (n)) ". Первый - это просто удобная стенография.
Итак, возвращаясь к актуальному вопросу, O (o (f (n))) не очень много значит (или, по крайней мере, я никогда не видел формального определения big-O для набора функций). , Но я предполагаю, что логичный способ интерпретации этого был бы в соответствии с ответом Enjay, с g (n) = o (f (n)).