Добавьте следующие свойства в ваше определение Window, чтобы избавиться от стиля по умолчанию
WindowStyle="None"
AllowsTransparency="True"
Background="Transparent"
Я не уверен в точных деталях того, как они создали свою границу, но я предполагаю, что она имеетчто-то связанное с границей, которая имеет прозрачный фон, CornerRadius и, возможно, эффект размытия.На самом деле это может быть 2-3 границы (одна черная 1px с радиусом ~ 5, прозрачная с эффектом размытия и третья квадратная рамка для поля содержимого)