Посетите сайт разработчика , посвященный поддержке различных размеров экрана, особенно той части, в которой они упоминают это:
res/layout/my_layout.xml // layout for normal screen size ("default")
res/layout-small/my_layout.xml // layout for small screen size
res/layout-large/my_layout.xml // layout for large screen size
res/layout-xlarge/my_layout.xml // layout for extra large screen size
res/layout-xlarge-land/my_layout.xml // layout for extra large in landscape orientation
В основном вы должны быть в состоянии решить вашу проблему, переставив макетыв зависимости от размера экрана.
РЕДАКТИРОВАТЬ
Если у вас нет времени, чтобы уместить макеты, вы можете посмотреть Фрагменты .Я сам с ними не так много работал, поэтому не могу дать вам никаких указаний о том, как их лучше всего использовать, но из того, что я прочитал в документации, они могут служить цели в вашей ситуации.