Чтобы сработал эффект тени, нельзя применить его к окну, нужно применить его к сетке или границе.В приведенном ниже примере он добавляется к новой границе с указанным, чтобы на ней было что-то для отображения тени.
<Border BorderBrush="Transparent" BorderThickness="20" CornerRadius="5" Background="Transparent">
<Border BorderBrush="Black" BorderThickness="1" CornerRadius="5" Background="#3BB2EA">
<Border.Effect>
<DropShadowEffect Direction="-75" ShadowDepth="2" Opacity="0.8" BlurRadius="25" Color="Black"/>
</Border.Effect>
<Border BorderBrush="#55FFFFFF" BorderThickness="1" CornerRadius="5">
<DockPanel Background="white">
<StackPanel HorizontalAlignment="Center" VerticalAlignment="Center">
<TextBlock x:Name="itstext"
FontSize="15"
FontWeight="SemiBold"
Margin="0 0 0 10"
TextAlignment="Center"><Run Text="Username or Password is incorrect."/><LineBreak/><Run Text=" Please try again"/></TextBlock>
<Button Content="OK"
Style="{StaticResource OrangeButtonTemplate}"
FontWeight="SemiBold"
FontSize="20"
Background="#FFFFD411"
Margin="20 0 20 0"
IsCancel="True"
FocusVisualStyle="{x:Null}"
BorderBrush="{x:Null}"
Height="45"/>
</StackPanel>
</DockPanel>
</Border>
</Border>
</Border>