Разобрался с с ++. Я вызываю это через нод-аддон, чтобы закрыть переполнение уведомлений в трее при нажатии значка:
HWND overflow = FindWindow(L"NotifyIconOverflowWindow", NULL);
if (overflow != NULL && IsWindowVisible(overflow)) {
PostMessage(overflow, WM_CLOSE, 0, 0);
}