У меня запущено приложение фляги, и я использую его для маршрутизации различных запросов через сокет-клиент с различными портами. Различные порты указывают на разные службы Windows, которые я построил с использованием pyinstaller.
. Каждая служба Windows отвечает за использование списка аргументов и возврат результата на основе некоторых моделей машинного обучения, которые не выбраны и работаютв памяти внутри службы.
Я хотел ускорить вызовы к каждой службе, которые имеют идентичные аргументы, используя lru_cache из functools, и я рассматриваю возможность установки этого декоратора на каждом из маршрутов фляги, чтобы предотвратитьзвонок в сервис.
Кто-нибудь знает, как долго длится кеш? Существует ли он только на время жизни одного стека вызовов (используя кеш для любых вызовов, которые являются частью этого стека, например, рекурсивной функции)? Или кеш остается включенным до тех пор, пока машина работает?
Я знаю, что мне нужно установить максимальный размер для использования LRU-части кеша, и я знаю, что аргументы, входящие в декорированную функцию, должны бытьhashable.