Вы правильно собираетесь использовать dp для определения макетов для нескольких разрешений экрана.
Но еще одна вещь: sp - это измерение размера шрифта.
И еще одна вещь, которую RelativeLayout предпочтительнее использовать, чем другие макеты, такие как LinearLayouts, TableLayouts.Так что может быть шанс, что если вы используете RelativeLayout и определите свои представления относительно, чтобы ваша проблема могла быть решена, так как вы упомянули, что маленький экран скрывает вашу нижнюю часть.