Вы можете достичь этого, изменив высоту .ui-autocomplete. Если у вас есть фиксированное количество элементов в списке, вы можете установить это, установив свойство.
Если ваш список меняется, тогда вы можете использовать свойство max-height. Это прекрасно работает во всех последних браузерах, кроме IE. В IE также это работает, если вы упоминаете doctype i.e standard mode