(я отвечаю на свой вопрос, потому что он недокументирован в Android API)
Этого недостаточно:
listView.setChoiceMode(ListView.CHOICE_MODE_SINGLE);
Вам необходимо включить android: checkMark = "? Android: attr / listChoiceIndicatorMultiple"
или же
<CheckedTextView
android:id="@+id/ctv_checktext"
android:layout_width="fill_parent"
android:paddingLeft="2px"
android:paddingRight="2px"
android:paddingTop="2px"
android:layout_height="wrap_content"
android:checkMark="?android:attr/listChoiceIndicatorMultiple"
/>