Прозрачность - это проблема. Единственное окно, которое поддерживает прозрачность по пикселям, это окна WS_EX_LAYERED. Эти окна были разработаны для использования в качестве значков перетаскивания, и это приводит к проблемам при любом другом использовании.
Использование D2D с окнами WS_EX_LAYERED требует использования цели рендеринга DXGI. Для EndDraw вы получаете DC из цели рендеринга, затем передаете его в многослойное окно и говорите многослойному окну обновить себя. (Попробуйте это с HWNDRenderTarget - это, вероятно, приведет к сбою драйвера устройства).
Я подозреваю, что ваше окно выглядит прозрачным, потому что оно вообще не рисует.
Еще одна ошибка, с которой вы можете столкнуться ... если окно достаточно прозрачное, щелчки мыши будут проходить через него к основному окну.