Вы можете запустить сайт с помощью HAProxy и настроить его для переключения контента.Для этого у вас есть интерфейс прослушивания внутреннего IP-адреса, который сопоставлен с вашим внешним IP-адресом.Бэкэнды - это ваши серверы.Вы настраиваете списки контроля доступа, чтобы определить, какой сервер отправлять.Например, это может быть через некоторое имя пути или расширение файла (например, .html идет на сервер A, а .aspx - на другой).В конце концов, пользователь не знает, что он находится на двух разных серверах, потому что он видит сайт, обслуживаемый только на одном доменном имени.
Примечание:
1) Вы не сможете делиться сессиями (что, я уверен, вы уже знаете).
2) HAProxy не обрабатывает https, так что если вам нужен https, у вас должно быть что-то для завершения https, например, nginx, haproxy или stunnel.
Надеюсь, что это применимо, потому что я не знаком с heroku.