Сначала создайте элемент ввода после некоторого нажатия кнопки, а затем активируйте щелчок по элементу файла, чтобы открыть окно собственного файла.
// this is callback function
var file = document.createElement('input');
file.setAttribute('type', 'file');
// bind change event.
file.onchange = function () {
// see step second.
}
file.click();
Затем ajax загрузите файл. Используйте iframe, formData или любые другие плагины, как вам нравится.
var formData = new FormData();
formData.append('upfile', this.files[0]);
Остальное можно погуглить.