Сообщение WM_XXXBUTTON..., к которому вы обращаетесь (например, WM_LBUTTONDOWN), - это сообщения, отправляемые, когда кнопка mouse что-то делает. Для кнопок в диалоговых окнах (и других компонентах пользовательского интерфейса) отправляется «сообщение»: BN_CLICKED (обратите внимание на подчеркивание). Технически, это код уведомления , а не сообщение само по себе, и отправляется как старшее слово wParam сообщения WM_COMMAND.