Настройка multiple:false
будет по-прежнему разрешать каскадирование, поэтому вам также необходимо отключить ее.
версия 3.3.3
$(".tree").jstree({
plugins: ["checkbox"],
core: {
data: ...,
multiple: false
},
checkbox: {
three_state: false,
cascade: "none"
}
});