Вы сравниваете атрибут со свойством, отображение - это свойство элемента, а не атрибут.
Лучше с чем-то вроде этого:
if( ($.trim($(this).is(':visible') ) {
// it's visible, do something
}
else { // no need for second condition, we *know* it's not visible!
// it's not visible so do something else
}