Для события hover в jQuery требуются 2 функции обратного вызова: одна, когда указатель перемещается над элементом, и одна, когда он покидает:
$(item).hover(function() { ... }, function() { ... });
В вашем случае:
$("a.button").hover(
function() {
$(this).animate({"marginTop": "0px"}, "fast");
},
function() {
$(this).animate({"marginTop": "16px"}, "fast");
}
);