Вы можете использовать CreateProcess как @Jonathan Potter, упомянутый в комментариях, или вы можете использовать ShellExecute .
ShellExecute(nullptr, "open", "mspaint.exe", "YourImage.jpg", nullptr, SW_SHOWMAXIMIZED);
Если, как упоминает @Remy Lebeau, вы хотите, чтобы пользователь зарегистрировал приложение по умолчаниючтобы открыть изображение, а не принудительно mspaint.exe
, вы можете просто передать имя изображения на ShellExecute
ShellExecute(nullptr, "open", "YoutImage.jpg", nullptr, nullptr, SW_SHOWMAXIMIZED);