Нет значения по умолчанию для thumbLi
. Единственное место, где он может получить значение в этом коде, находится здесь:
if(catName==itemCat){
itemCat = $(".thumb", this).html();
thumbLi += "<li>" + itemCat + "</li>";
}
Необходимо убедиться, что перед запуском $(thumbLi).appendTo("div.box2 ul.thumbs");
значение thumbLi имеет.