Существует ряд различных аппаратных решений для балансировки сетевой нагрузки (F5, Foundry, Cisco и т. Д.), А также программных решений, и он даже включен в ядро Linux (LVS).
Не зная немного больше о том, что вы пытаетесь сбалансировать, какие уровни трафика и какую надежность вам требуется, трудно дать рекомендации.