отслеживать очередь запросов на сервере grpc

Question

Сервер GRPC ставит запросы в очередь и обслуживает их в соответствии с конфигурацией maxWorker, которая передается при запуске сервера. Как распечатать метрическое число элементов в очереди.? По сути, я хотел бы отслеживать количество запросов в состоянии ожидания.

Answer 1

Решение для grpc-python аналогично grpc-java.Вы можете передать своего будущего настроенного исполнителя в конструктор сервера и самостоятельно отслеживать выполнение задачи.

API Python gRPC: grpc.server (thread_pool, ...)

Расширяемый класс исполнителя: concurrent.futures.ThreadPoolExecutor

Answer 2

Вы можете передать своего исполнителя на serverBuilder.executor(). Обратите внимание, что вы несете ответственность за закрытие службы исполнителя после завершения работы сервера.