Я спросил об этом в группе пользователей appengine здесь и не смог решить проблему.
Проблема, с которой я сталкиваюсь, заключается в том, что для, казалось бы, очень легкой конечной точки и других подобных ей, задержка кажется проблемой. Вот пример запроса, как показано в инструменте трассировки GCP:
Я знаю, что если это запрос, который породил новый экземпляр, или если использование памяти велико, это объясняет высокую задержку. Ни один из которых не имеет место здесь.
Кажется, что некоторые конечные точки периодически реагируют просто на то, чтобы отреагировать на то, сколько времени потребуется самой конечной точке, чтобы выполнить свою работу, и большая часть этого времени находится "без отслеживания" под инструментом трассировки GCP Stackdriver. Я поместил запись в журнале как можно раньше, в объекте RequestHandler webapp2 при инициализации. Вы можете увидеть это на скриншоте как "initapp webapp2 request".
Я недостаточно знаком с внутренней работой webapp2, чтобы знать, где я мог бы разместить журнал в другом месте, который мог бы помочь объяснить это, если угодно.
Это параметры масштабирования для этой службы appengine, определенные в моем yaml файле:
instance_class: F4
automatic_scaling:
max_idle_instances: 1
max_pending_latency: 1s
max_concurrent_requests: 50
Не уверен, какая другая информация будет полезна здесь.