Привет.Вот пример того, что вы хотите: http://jsfiddle.net/YJugE/2/
Основное отличие от демонстрации mootools заключается в использовании списка для сортировки, а не набора элементов div *
<div id="container">
<ul>
<li class="red sort">red</li>
<li class="red sort">red</li>
<li class="red sort">red</li>
<li class="red sort">red</li>
<li class="red sort">red</li>
<li class="red sort">red</li>
</ul>
</div>
Вы можете получить набор div для работы так, как вам хочется, но вам придется выполнять намного больше работы css
Насколько я могускажите, Mootools не поддерживает настройку, как вы пытаетесь сделать.На странице Doc для Fx.Sort единственными поддерживаемыми стилями являются горизонтальный и вертикальный, ни один из которых для того, что вы пытаетесь сделать