У вас есть некоторые синтаксические ошибки, которые являются вероятным виновником.В функции готовности документа используйте следующее:
$("li").css('opacity','0.40');
$(".selected").css('opacity','1');
$('ul.showcase').on("mouseover", "li", function() {
$(this).stop().fadeTo(500, 1);
});
$('ul.showcase').on("mouseout", "li:not(.selected)", function() {
$(this).stop().fadeTo(500, 0.4);
});
Обратите внимание, что для этого требуется jQuery 1.7+ с использованием .on()
API.Я настоятельно рекомендую это сделать, поскольку использование делегированных событий гораздо более эффективно.