У меня на VS2017 в WPF работает это:
<RichTextBox HorizontalAlignment="Left" Height="126" Margin="10,280,0,0" VerticalAlignment="Top" Width="343" FontSize="14" Block.LineHeight="2"/>
Ключ Block.LineHeight = "2"
Вы также можете найти это в окне свойств, но оттуда вы не можете изменить ниже 6px.