Самый простой способ - придать линейному макету встроенный стиль, а именно "@android: style / Holo.ButtonBar" или, если вы используете предварительную версию HC, тогда "@android: style / ButtomBar"
Если вам интересно, к каким атрибутам относится этот стиль, вот оно:
<style name="Holo.ButtonBar" parent="ButtonBar">
<item name="android:paddingTop">0dip</item>
<item name="android:paddingStart">0dip</item>
<item name="android:paddingEnd">0dip</item>
<item name="android:paddingBottom">0dip</item>
<item name="divider">?android:attr/dividerVertical</item>
<item name="showDividers">middle</item>
<item name="dividerPadding">12dip</item>
<item name="background">@null</item>
</style>
Обратите внимание, что в этом случае вам не нужно использовать RelativeLayout - он полностью избыточен и более затратен с точки зрения операций макета по сравнению с линейным макетом.