Вы можете использовать LinearLayout или RelativeLayout.Для всех макетов необходимо получить displayHeight.
Display display = ((WindowManager) getSystemService(Context.WINDOW_SERVICE)).getDefaultDisplay();
int displayHeight = display.getHeight();
Затем для всех макетов установить layoutParams для заполнения родительского.
Теперь для scrollViews начинаются различия.
В LinearLayout для обоихscrollViews устанавливают одинаковые layoutParams (LinearLayout.layoutParams)
scrollView.setLayoutParams(new LayoutParams(LayoutParams.FILL_PARENT, displayHeight/2));
И добавляют оба к linearLayout
В RelativeLayout установите layoutParams, как в моем примере (RelativeLayout.layoutParams)
RelativeLayout.LayoutParams lp1 = new LayoutParams(LayoutParams.FILL_PARENT, displayHeight);
lp1.addRule(ALIGN_PARENT_TOP);
scrollView1.setLayoutParams(lp1);
RelativeLayout.LayoutParams lp2 = new LayoutParams(LayoutParams.FILL_PARENT, LayoutParams.FILL_PARENT);
lp2.addRule(BELOW, scrollView1.getId());
scrollView2.setLayoutParams(lp2);
И добавить оба к макету.
Должно работать при любом разрешении экрана, если я не перепутал.