У меня есть простое приложение flask, которое запускает модель машинного обучения на данных, отправленных в почтовом запросе на конечную точку (скажем / предсказать). Приложение flask использует официантку на производстве с параметрами по умолчанию. Поскольку прогнозирование может занять некоторое время, у меня есть конечная точка готовности в моем приложении, на которую я хотел бы ответить неготовым 50-кратным кодом состояния, когда очередь задач официантки больше некоторого числа (скажем, 5).
I нужно знать, как узнать размер очереди задач официантки. Официантка записывает в стандартный вывод «Глубина очереди задач 94», но я не могу найти способ получить доступ к значению программно. Затем я бы использовал это число, чтобы решить, готов ли мой сервер отвечать на дополнительные запросы или мне нужно запускать новые экземпляры.