Это зависит от того, что вы пытаетесь сделать, но удаление файлов, созданных мастером, не очень хорошая идея. Они есть, потому что вы сказали, что их нужно поместить туда (выбрав MFC-SDI / MDI), поэтому они необходимы для базовой инициализации и тому подобного.
Если вам не нужна архитектура Doc / View, вы можете создать приложение на основе диалога. Или вы можете даже использовать приложение MDI или SDI и не использовать Doc и View, но если вы хотите удалить их, вам нужно будет убедиться, что на них нет ссылок. То, что вы не можете удалить, это «MyProject.cpp» (где находится производный класс CWinApp), который выполняет инициализацию приложения.
Другой вариант - создать консольное приложение с поддержкой MFC. Для этого в мастере необходимо выбрать «консольное приложение Win32», а затем установить флажок «Добавить заголовки для MFC».