Обработка нескольких запросов не зависит от наличия нескольких экземпляров виртуальных машин или одного. Основная идея наличия группы экземпляров - иметь высокую доступность в вашем сервисе и не полностью обрабатывать несколько запросов; следовательно, использование групп экземпляров или одной виртуальной машины зависит от архитектуры вашего приложения и функций, которые вы хотите добавить с помощью групп экземпляров.
Один экземпляр сможет обрабатывать несколько запросов, как, например, группа экземпляров. Обработка нескольких соединений - это то, что вам нужно проверить в приложении веб-сервера (Apache или Nginx).
Балансировщики нагрузки предназначены для обработки нескольких запросов. Поэтому использование балансировщиков нагрузки для обработки нескольких подключений зависит от вашей архитектуры. Если у вас несколько бэкэндов, вы должны использовать балансировщик нагрузки, если вы используете один бэкэнд, тогда ваш веб-сервер выполнит эту работу.
Сообщение об ошибке 502 может быть связано с несколькими вещами, вот несколько со страницы Google :
- backend_connection_closed_before_data_sent_to_client
- backend_early_response_wror_onat *
- backend_interim_response_not_supported
- backend_response_corrupted
- backend_response_headers_too_long
- backend_timeout
- failed_to_connect_to_backend * 10