И если вы хотите настроить алгоритм рисования кнопок, вам следует взглянуть на API DrawThemeBackground - который позволяет рисовать кнопки с использованием тех же визуальных элементов, что и стандартный движок Windows Theme.
Однако вам нужно быть осторожным, чтобы разобраться со случаем, когда тема отключена (когда OpenTheme не работает), однако - в этом случае вы, к сожалению, сами по себе.