Я не думаю, что это возможно, просто установив WS_EX_TRANSPARENT, но это можно сделать, используя два окна, создать окно с отверстием, используя SetWindowRgn , и внутри этого отверстия поместить другое прозрачное окно, используя WS_EX_LAYERED и стили WS_EX_TRANSPARENT.