Используя Jquery, $(".submenu > ul").size()
дает вам счет.
Это установит класс в div с подменю class:
var count = $(".submenu > ul").size();
if(count == 3)
{
$(".submenu").addClass("three-col");
}
else if(count == 2)
{
$(".submenu").addClass("two-col");
}