$('.mydiv ul li:nth-child(4)').addClass("nth");
Там есть как минимум 8 li, но он выбирает только 4-е, а не 8-е?
li
$('.mydiv ul li:nth-child(4n)').addClass("nth");
обратите внимание на 4n
4n