К сожалению, это невозможно из-за появившегося стандартного окна поиска файлов, однако вместо этого вы можете использовать RegularExpressionValidator для проверки имени файла (регулярное выражение ниже не проверено):
ValidationExpression="^(.*)\.(([jJ][pP][eE]?[gG])|([bB][mM][pP]))$"