Следующая команда работает на http://jqueryui.com/demos/selectable/
$('#selectable .ui-selected').removeClass('ui-selected')
Поскольку существование класса определяет, выбран ли элемент, простое удаление элемента отменит его выбор.
Обратите внимание, вы также можетевоспользуйтесь функциями toggleClass и addClass.
РЕДАКТИРОВАТЬ:
Попробуйте тоже: $('#selectable').trigger('unselected')
.Это также может инициировать все изменения CSS, и, таким образом, невыбранное событие также запускается для всего, что к нему может быть привязано.