В приведенном выше коде это будет указывать на сам объект, а не на объект jstree или объект jquery.
Это правильная форма:
$("#treeDiv")
.bind("dblclick.jstree", function (evnt) {
$(this).jstree('rename', evnt.target);
});
Как правило, когда у вас нет реального объекта jstree (который поддерживает .rename), вы должны использовать $('#tree').jstree(command, arg)
, а также вы должны использовать события, подобные примеру выше.