Здесь недостаточно подробностей для меня .. Где модальная разметка / вызов? Где ваши контейнеры, на которые ссылаются вкладки?
См. Источник для примера здесь:
http://docs.jquery.com/UI/Tabs
Если вы не используете контейнеры, вкладкам не с чем взаимодействовать, и они могут не работать.
Edit:
Согласно официальному документу, это должно работать после загрузки jquery:
<div id="tabs">
<ul>
<li><a href="#tabs-1">Nunc tincidunt</a></li>
<li><a href="#tabs-2">Proin dolor</a></li>
<li><a href="#tabs-3">Aenean lacinia</a></li>
</ul>
<div id="tabs-1">
<p>Tab 1 content</p>
</div>
<div id="tabs-2">
<p>Tab 2 content</p>
</div>
<div id="tabs-3">
<p>Tab 3 content</p>
</div>
</div>
Вы пробовали точный пример, чтобы увидеть, работает ли он? Если это не сработает, возможно, Facebox мешает. Попробуйте уменьшить его до простейшей формы, не тратя много времени, посмотрите, работает ли он, а затем начните медленно добавлять вещи.