Windows 7 SDK содержит пример с именем NotificationIcon .Этот пример содержит строку
ShowWindow(hwnd, nCmdShow);
в своей функции wWinMain
.Эффект этого вызова заключается в том, что вы видите окно программы.
Просто измените эту строку на
ShowWindow(hwnd, SW_HIDE);
, чтобы скрыть окно программы и отобразить только значок на панели задач.Как уже отмечали другие, программе нужно окно программы, даже если оно не видно.