В Flex 4 это зависит от скина, а не от самого компонента. Вы можете создать пользовательский скин списка и в VerticalLayout группы данных установите для параметра visibleRowCount значение 3, а затем установите для своего списка новый скин. Для начала просто скопируйте ListSkin по умолчанию в свой файл скина и внесите изменения. Вот соответствующий раздел из файла ListSkin по умолчанию:
<s:DataGroup id="dataGroup" itemRenderer="spark.skins.spark.DefaultItemRenderer">
<s:layout>
<!--- The default layout is vertical and measures at least for 5 rows.
When switching to a different layout, HorizontalLayout for example,
make sure to adjust the minWidth, minHeihgt sizes of the skin -->
<s:VerticalLayout gap="0" horizontalAlign="contentJustify" requestedMinRowCount="5" />
</s:layout>
</s:DataGroup>
Просто удалите requiredMinRowCount и замените его на selectedRowCount = "3". Надеюсь, это поможет.