Я думаю, что единственное, что вам нужно сделать, это установить ориентацию корневого LinearLayout на «вертикальный».
Ориентация корневого LinearLayout является «горизонтальным», а ширина двух LinearLayout, которыеВ корне LinearLayout содержатся «match_parent», поэтому верхний ряд кнопок всегда будет покрывать нижний ряд.