Я не уверен, что это лучший ответ, но:
AllowsTransparency="True" WindowStyle="None"
избавляется от заголовка и границы - теперь непрозрачность влияет на все остальное. Затем я добавил свою рамку и кнопку «Закрыть». Теперь мне просто нужна функциональность Move.
AllowsTransparency, кажется, добивается цели, но заставляет WindowStyle None.