В этой строке:
retrieveData2("/CatalogAjaxController/UpdateNavigation", productGroup, productType, itemsPerPage, pageIndex, filters, handleMenuData(data));
данные, которые вы передаете handleMenuData, не определены в рамках функции updateNavIndex. На самом деле я не вижу, как вызывается функция updateNavIndex и как она должна знать о параметре данных.
Изменить эту строку:
retrieveData2("/CatalogAjaxController/UpdateNavigation", productGroup, productType, itemsPerPage, pageIndex, filters, handleMenuData(data));
до:
retrieveData2("/CatalogAjaxController/UpdateNavigation", productGroup, productType, itemsPerPage, pageIndex, filters, handleMenuData);
Функция retrieveData2 получает последний аргумент функции, которым в вашем случае является handleMenuData. Он будет вызывать его с параметром данных, который определен внутри retrieveData2. Поверьте, вы что-то поняли :)