Мы также начинаем смотреть на автоматическое масштабирование.
Первый подход - использовать Amazon ELB (Elastic Load Balancer) и Cloud Front. Однако наш трафик - это веб-сервис. Звонящий часто отправляет http-сообщение «100-Continue», и ELB не может понять это сообщение. От Amazon пока нет ни слова о том, когда это может быть исправлено. Также на форумах Amazon есть ряд жалоб на то, что ELB не справляется с большой нагрузкой.
LigHTTPD 1.5 выглядит как многообещающее частичное решение в том смысле, что он может обнаруживать, когда экземпляр не работает, и прозрачно выводить его из ротации, а также может быть динамически перенастроен без перезапуска балансировщика нагрузки.
Существует также ряд коммерческих решений. Мы, вероятно, взглянем на Right Scale.