Самое близкое, что вы можете получить, это взять на себя ответственность за весь шаблон для дочернего окна.
Используемый шаблон задокументирован здесь .
Разорвите шаблон и поместите его в ресурс Style (вероятно, лучше всего, если вы сбросите его в его собственный XAML-файл ResourceDictionary и используете MergedDictionaires в App.Xaml, чтобы сделать его доступным)
Теперь поиграйте с шаблоном, удаляющим границу (это фактически набор границ).