Я пытаюсь запустить команду из оконного проекта с помощью вызова system (), но каждый раз, когда появляется консолькак запустить команду без отображения окна консоли?
Используйте функцию CreateProcess и передайте флаг CREATE_NO_WINDOW.
CreateProcess
CREATE_NO_WINDOW