Это не проверено, но я считаю, что это должно работать.
Во-первых, если вы хотите, чтобы ваша первая строка занимала все пространство, вы должны определить ваши RowDefinitions как
<Grid.RowDefinitions>
<RowDefinition Height="*"/>
<RowDefinition Height="Auto" /> <!-- Edit: Removed MinHeight="100" -->
</Grid.RowDefinitions>
Для отображения / скрытия элементов управления вам необходимо привязать их свойство Visibility либо к свойству DualLayout (если класс правильно реализует INotifyPropertyChanged), либо (возможно, более просто) к свойству IsChecked ToggleButton.
Например (то же самое относится и к GridSplitter):
<!-- EDIT: Added MinHeight="100" here instead -->
<transmission:TransmissionsControl x:Name="transmissionsTransmit"
TransmissionType="Transmit"
Grid.Row="1"
MinHeight="100"
Visibility={Binding ElementName=toggleLayout,
Path=IsChecked,
Converter={StaticResource boolToVis}}" />
На некотором уровне выше рассматриваемых элементов управления (здесь я делаю это на уровне окна) вам необходимо добавить встроенный ресурс BooleanToVisibilityConverter:
<Window.Resources>
<BooleanToVisibilityConverter x:Key="boolToVis" />
</Window.Resources>