Firebug обычно (я вообще-то не думаю) не будет отображать никаких ошибок для вызова ajax, вместо этого ошибка будет в запросе ajax (все еще в firebug).Щелкните запрос, а затем ответ.
Я предполагаю, что есть проблема с параметрами, которые вы отправляете, или что-то не так с тем, что вы возвращаете (т.е. вы возвращаете html, когда ajax ожидает json, это будетдобиться успеха никогда не будет запущено)
Кроме того, попробуйте передать error:function(jqXHR, textStatus, errorThrown){}
в параметры `ajaxSubmit и посмотреть, что произойдет.