Дивы плавают по горизонтальной оси, а не по вертикали. По сути, вы ищете плагин Masonry, предназначенный для jquery, который должен легко решить вашу проблему.
http://desandro.com/resources/jquery-masonry/
редактировать:
ваши деления не очищаются слева, пожалуйста, посмотрите расчетный макет
пробел не из-за очистки div влево, пробел из-за высоты строки. Когда у вас есть два плавающих элемента в строке, тогда строка будет иметь высоту, равную большему элементу, поэтому, по сути, каждая строка будет иметь пробел ниже меньшего элемента div. Это похоже на таблицу HTML.