Я нашел то, что мне помогло.
... запретить переход на вкладку при нажатии в зависимости от проверки формы
Возврат false в обработчике выбора вкладок предотвращает выбор выбранной вкладки.
$('#example').tabs({
select: function(event, ui) {
var isValid = ... // form validation returning true or false
return isValid;
}
});