В сортируемом параметре отмены по умолчанию установлено значение "input,textarea,button,select,option"
. Согласно документации, опция cancel
делает следующее.
Prevents sorting if you start on elements matching the selector.
Таким образом, сортировка здесь запрещена, если для сортировки используются эти селекторы по умолчанию. Установите значение параметра отмены в пустую строку, и оно работает.
$('#tilbehor_table tbody').sortable({ axis: "y", handle: ".tilsorthandle", cancel: ''});