ShellExecute - это функция, которую вы ищете. Он может обрабатывать как исполняемые типы, так и зарегистрированные типы файлов, и выполняют все виды действий (глаголов) над файлом, в зависимости от того, что он поддерживает.
Синтаксис:
HINSTANCE ShellExecute(
HWND hwnd, // handle to owner window.
LPCTSTR lpOperation, // verb to do, e.g., edit, open, print.
LPCTSTR lpFile, // file to perform verb on.
LPCTSTR lpParameters, // parameters if lpFile is executable, else NULL.
LPCTSTR lpDirectory, // working directory or NULL for current directory.
INT nShowCmd // window mode e.g., SW_HIDE, SW_SHOWNORMAL.
);
Для получения более подробной информации обратитесь к документации MSDN по вашему району.