Единственный гарантированный способ сделать это - написать собственный диалог открытия файла.Но я бы посоветовал вам найти лучший способ сделать это, так как это считается довольно плохой формой.
Это только что пришло мне в голову, но что вы могли бы сделать (и яне говоря уже о том, что это легко или приятно) - это запустить диалог открытия файла, затем с помощью дескриптора окна получить доступ к списку и вручную удалить любые системные файлы из этого списка в соответствии с вашими эвристиками.Это должно работать, но я не могу гарантировать, что элементы останутся удаленными (т.е. я думаю, что Windows будет автоматически обновляться время от времени), поэтому вам придется экспериментировать и YMMV.
Итог: найдите другой способ запретить пользователю выбирать их.Как говорит Мэт, возможно, просто дайте сообщение и оставьте это при этом.В противном случае напишите свой собственный диалог (чёрт!).