Вы не можете загружать файлы с помощью AJAX, потому что вы не можете выполнять запросы, закодированные в несколько частей - это ограничение API XMLHttpRequest.
Обходные пути для этого обычно включают использование IFRAME, который является целью формы, которая обрабатывает фактическую загрузку файла как отдельный подпроцесс для общей формы. Ответ, загруженный в IFRAME, затем отправляется обратно в DOM на родительской / вызывающей странице с информацией о загруженном файле.