Как и где они хранятся, зависит от версии Windows. Я полагаю, что старые окна хранили значки кнопок min, max и close как шрифт TrueType. Однако вещи, безусловно, изменились, в XP появились темы, а в Vista есть Aero.
Есть старая функция Win32 API DrawFrameControl, может быть, она вам поможет.
Я также помню, что IE 6.0 хранил ресурсы в browseui.dll.