Это ограничение для каждого экземпляра, это означает, что каждый из экземпляров ядра приложения имеет это ограничение и является независимым.
Также экземпляры App Engine по умолчанию обслуживают до 10 одновременных запросов, его можно изменить на 100, но не более того. Из-за этого единственный способ достичь этого предела - это если приложение глючит и не закрывает соединения.
Также Пулы соединений рекомендуется использовать при подключении к облаку SQL, это ограничивает общее количество соединений от каждого экземпляра, что еще раз уменьшит шансы достичь этого предела.