Использование массива-индекса возвращает только объект HTMLElement и, таким образом, удаляет множество полезных функций jQuery, поэтому будьте осторожны с этим. Я хотел бы подойти к этому так:
var div = $("<div/>").appendTo($("<li/>").appendTo(ul));
От самого внутреннего к внешнему, это создает элемент списка, добавляет его в ваш список, создает div, добавляет его к вашему новому элементу списка и возвращает div, все еще завернутый в jQuery. Если хотите, вы можете добавить индекс массива, чтобы получить только HTMLElement:
var div = $("<div/>").appendTo($("<li/>").appendTo(ul))[0];