Вы можете попробовать установить правую границу в левом плавающем div и левую границу в правом плавающем div. Затем вы должны установить отрицательное поле в правом плавающем элементе div, равное ширине границ. Используя этот метод, границы будут идеально перекрываться, делая его похожим на одну линию, равную высоте самого высокого div.
UPDATE
Похоже, это вызывает проблемы в IE. Вы также можете попробовать установить положение на контейнере столбца как относительное, а затем установить положение дочерних элементов на абсолютное. Левый столбец будет top: 0 и left: 0. Затем вы поместите правый столбец top: 0 и right: (ширина левого столбца - ширина границы). IE может справиться с этим немного лучше.