Вам нужно разделить содержимое:
<Label>
<StackPanel Orientation="Horizontal">
<TextBlock Text="White, "/>
<Border BorderBrush="Black" BorderThickness="1">
<TextBlock Background="White" Text="Yellow"/>
</Border>
<TextBlock Text=", Black"/>
</StackPanel>
</Label>
( Если это не то, что вам нужно, вы должны выразить себя более четко )