Если вы предпочитаете использовать RelativeLayout, возможно, следующее поможет вам приблизиться к тому, чего вы пытаетесь достичь.
<?xml version="1.0" encoding="utf-8"?>
<RelativeLayout
xmlns:android="http://schemas.android.com/apk/res/android"
android:layout_alignParentBottom="true"
android:id="@+id/transport_search"
android:layout_height="wrap_content"
android:layout_width="fill_parent">
<AutoCompleteTextView
android:id="@+id/transport_autoCompleteFrom"
android:layout_width="100dip"
android:layout_height="wrap_content"
android:singleLine="true"
android:text="auto 1" />
<Button
android:id="@+id/transport_switchDirection"
android:layout_toRightOf="@id/transport_autoCompleteFrom"
android:layout_width="wrap_content"
android:layout_height="wrap_content"
android:text="button1" />
<AutoCompleteTextView
android:id="@+id/transport_autoCompleteTo"
android:layout_below="@id/transport_autoCompleteFrom"
android:layout_width="100dip"
android:layout_height="wrap_content"
android:singleLine="true"
android:text="auto 2" />
<Button
android:id="@+id/transport_go"
android:layout_toRightOf="@id/transport_autoCompleteTo"
android:layout_below="@id/transport_switchDirection"
android:layout_width="wrap_content"
android:layout_height="wrap_content"
android:text="button2" />
</RelativeLayout>
Ниже приведен скриншот этого макета.
Also, you may want to take a look at how TableLayout was used for a similar result in Android Создать выровненные поля Макет