Измерение времени выполнения скриптов python - PullRequest
1 голос
/ 22 апреля 2020

В настоящее время я работаю над проектом ML NLP и хочу измерить время выполнения определенных частей, а также потенциально предсказать, сколько времени займет выполнение. Например, я хочу измерить процесс обучения ОД (включая подпроцессы, такие как часть предварительной обработки данных). Я искал в Интернете, и я столкнулся с различными python модулями, которые могут измерять время выполнения функций (например, время или время). Однако я до сих пор не нашел конкретного решения, чтобы предсказать время, которое потребуется для выполнения функции. Я думал о запуске кода несколько раз, сохранил значения (data_size, time) и затем использовал его для экстраполяции будущих данных. Я также подумал о том, чтобы затем обновить эту оценку временем, которое потребовалось для запуска нескольких частей функции (например, посмотреть, сколько процесса было вычислено, сколько времени потребовалось, а затем использовать его для корректировки оставшегося времени).

Однако я не уверен ни в чем из этого, и я хотел посмотреть, есть ли лучшие варианты, о которых я не знал, поэтому, если у кого-то есть идея получше, я был бы благодарен, если Вы могли бы поделиться этим.

1 Ответ

1 голос
/ 22 апреля 2020

Вы изучали использование профилирования? Он должен содержать подробную разбивку времени выполнения функции, количества вызовов и т. Д. c. Вам придется выполнить скрипт с профилированием, и тогда вы получите подробную разбивку. https://docs.python.org/3/library/profile.html#module -cProfile

Если вам нужны своевременные отчеты о ходе работы, есть несколько библиотек, которые я видел. https://pypi.org/project/tqdm/ https://pypi.org/project/progressbar2/

Надеюсь, что это поможет!

...