Не уверен, что вы можете сделать это, но, по крайней мере, вы можете использовать функцию обратного вызова и проверить входное значение для расширения .xml.
Фрагмент:
<script type="text/javascript">
function isXml(input)
{
var value = input.value;
var res = value.substr(value.lastIndexOf('.')) == '.xml';
if (!res) {
input.value = "";
}
return res;
}
</script>
<form method="post" action="">
<input type="file" name="myfile" id="myfile" onchange="return isXml(this)" />
<input type="submit" />
</form>