Как упоминает Роман, звучит так, что автоматическое масштабирование - это хороший способ для вас, он может решить не все ваши проблемы, но, безусловно, хорошая отправная точка:
- группу автоматического масштабирования можно привязать к балансировщику нагрузки, например, у меня х здоровых экземпляров
-новые экземпляры автоматически добавляются в балансировщик нагрузки (трафик не будет отправляться, пока он не пройдет проверку работоспособности)
- вы можете определить пользовательские проверки работоспособности, такие как ping http://hostname/isalive, просто сделайте так, чтобы ваш экземпляр отвечал на эти запросы, как только пройдет этап 3
-вы можете определить политики масштабирования, но по умолчанию, если у вас больше емкости, самые старые экземпляры будут убиты
- вы не упоминаете пример использования приложения, но если вам не нужен общедоступный адрес, вы можете использовать внутренний балансировщик нагрузки, который не принимает трафик, просто присматривайте за проверкой работоспособности
- везде, где это возможно, вы всегда должны использовать принципы наименьших привилегий для обеспечения безопасности, так как с вашим методом вам придется предоставлять каждому экземпляру много возможностей для управления другими экземплярами, будь то по ошибке или злоупотреблению, это может очень легко пойти не так