Прямые значения xml не доступны для нижних состояний листа. Но если вы хотите сделать это в привязке данных, есть другой вариант. Создайте для этого адаптер привязки и используйте его.
@BindingAdapter("bottomSheetState")
fun bindingBottomSheet(container: LinearLayout, state:Int) {
val behavior=BottomSheetBehavior.from(container)
behavior.state = state
}
Теперь в XML вы можете использовать его
<LinearLayout
android:layout_width="match_parent"
android:layout_height="340dp"
app:behavior_hideable="true"
app:layout_behavior="com.google.android.material.bottomsheet.BottomSheetBehavior"
app:behavior_peekHeight="80dp"
app:bottomSheetState="@{model.uiState.bottomSheetState}">