Я пытаюсь измерить сложности реализаций ML-модели, чтобы сравнить их со статистическими подходами (например). Можно ли использовать меры сложности Big O, как это делается в других алгоритмах / программах?
У меня есть просмотрено предложений по измерению сложности на основе использования памяти или время тренировки . Тем не менее, это не теоретические меры и могут варьироваться от машины к машине. Один из подходов, которые я использую, состоит в том, чтобы просто сравнить общее количество обучаемых параметров . Вероятно, нужно измерить общее количество математических операций . Однако это может быть сложно при построении глубоких моделей с различными типами слоев.
У вас есть предложения о том, как измерить сложность моделей машинного обучения? Чтобы быть точным c, можно рассмотреть, скажем, сверточную нейронную сеть.