Вам, скорее всего, придется катить собственную кнопку «Закрыть», но вы можете полностью скрыть хром окна, используя атрибут WindowStyle, например:
<Window WindowStyle="None">
Это все еще будет иметь границу изменения размера. Если вы хотите, чтобы окно не изменяемого размера, добавьте ResizeMode = "NoResize" в объявление.