Поскольку вы используете JQuery, вы можете использовать hasClass, чтобы проверить, существует ли данный класс в текущий момент, и если он существует, вы можете изменить класс на другой класс.
if ( jQuery( "#mega-menu-wrap-max_mega_menu_1 ul li" ).hasClass( "mega-toggle-on" ) ) { // class "mega-toggle-on" exists...
jQuery("#submenu-new").addClass("active");
} else { // class "mega-toggle-on" does not exists...
jQuery("#submenu-new").removeClass("active");
}