Обновленный ответ
В последней версии DataTables вам необходимо установить свойство type
объекта, который вы предоставляете в массиве columnDefs
, например:
$('#example').dataTable({
"columnDefs": [
{ "type": "num" }
]
});
Обратите внимание, что есть много других методов сортировки, которые можно найти в документации
Оригинальный ответ
Вам необходимо добавить параметр sType
в определение столбца.
Например:
$('#example').dataTable({
"aoColumnDefs": [
{ "sType": "numeric" }
]
});
Дополнительные сведения в документации DataTable: http://www.datatables.net/plug-ins/sorting