Вы не сможете проверить размер файла только с помощью javascript, но вы сможете проверить формат файла выбранного файла, просто взяв значение этого поля ввода и захватив последнюю часть. Например, скажем, у вас есть этот тег в HTML:
<input type="file" id="afile" />
В вашем javascript вы можете иметь такую функцию, и ссылаться на нее при отправке формы:
function check_filetype(){
var filename = document.getElementById('afile').value;
return filename.substr(filename.lastIndexOf('.'));
}