Я полагаю, что вы используете эту опцию с меню выбора для создания всплывающего меню - data-native-menu="false"
В этом случае вы можете проверить, видимо ли всплывающее окно, используя этот код.
if($(".ui-selectmenu").hasClass("ui-selectmenu-hidden")){
alert("Select menu popup is hidden");
}
else{
alert("Select menu popup is visible");
}
Дайте мне знать, если это поможет.