Как насчет сложного правила, которое делает элемент обязательным, только если другие флажки не установлены
rules: {
'require-one': {
required : {
depends: function(element) {
var allBoxes = $('.require-one');
if (allBoxes.filter(':checked').length == 0) {
if (allBoxes.eq(element).length != 0) {
return true;
}
}
return false;
}
}
}
}
Тогда вы примените класс require-one
к каждому флажку в наборе. Первый будет необходим, если ни один из полей не отмечен.