если в вашем .main-nav ul нет других элементов li просто очистите его перед добавлением, как я сделал следующим образом:
$(document).ready(appendBtns);
$(window).resize(appendBtns);
function appendBtns() {
if($(window).innerWidth() < 768) {
$('.main-nav ul').html(''); //add this line
$('.btn').wrap('<li>').parent().appendTo('.main-nav ul')
}
}
Примечание: этоэто тот случай, если ваш UL не имеет других li, кроме тех, которые вы добавляете