ListView сделает ваш код более понятным, но если это просто статические элементы на экране, и вы уверены, что не собираетесь добавлять что-либо, вы определенно можете использовать простой View. я использую LinearLayouts для таких подчеркиваний, как эти.
<LinearLayout
android:id="@+id/divider1"
android:layout_width="match_parent"
android:layout_height="1dp"
android:layout_below="@+id/title1"
android:layout_marginTop="5dp"
android:background="#52525252"
android:orientation="horizontal"></LinearLayout>