Меню окрашено как часть области, не относящейся к клиенту. Так что, если вы рисуете самостоятельно, вы также должны нарисовать окно самостоятельно. Возможно, вам удастся что-то сделать с помощью TrackPopupMenu, чтобы сделать фактическое рисование меню, и вам просто придется самостоятельно обрабатывать строку меню и элементы меню верхнего уровня.
Рисование области, не являющейся клиентом, само по себе чревато опасностями. Вы уверены, что не хотите использовать нарисованное владельцем меню ?
Может быть заманчиво настроить диалоги вашего пользовательского интерфейса в соответствии с вашими потребностями, но также имейте в виду, что это раздражает пользователей, которые уже привыкли к внешнему виду окон.