Задержка между бэкэндом и экземпляром веб-интерфейса чрезвычайно мала.
Если подумать, все RPC App Engine выполняются с "экземплярами бэкэнда". Для вашего удобства бэкэнды Datastore и Memcache запускаются Google.
Большинство запросов, по словам команды App Engine, остаются в одном центре данных - это означает, что задержка является межпостовой и намного ниже, чем вне URLFetches.
Простой обработчик запросов и тонкий API-уровень для координации хранения в памяти - это все, что вам нужно - в проектах, где я настроил внутреннее кэширование, он хорошо справился с необходимостью более гибкого хранения в памяти - централизация вещей определенно помогает. Балансировка нагрузки тоже не помешает;)