Я предполагаю, что вы хотите, чтобы скобки появлялись при наведении курсора мыши и удалялись при наведении мыши.
Первый обратный вызов jquery hover предназначен для состояния наведения мыши, второй - на отсутствие мыши, таким образом:
$("li").hover(
function() {
// mouse over
$(this).prepend("<span>(</span>");
$(this).append("<span>)</span>");
},
function() {
// mouse out
$(this).find('span').remove();
}
);