if ( ($('.layer'+count).text().length ) > 0 )
{
alert ('I have text')
}
В вашем коде порядок не был правильным. Должно быть
($('.layer'+count).text().length)
а не
($('.layer'+count).text()).length
На самом деле нет необходимости в дополнительных (
. Вы можете просто написать
if ( $('.layer'+count).text().length > 0 )
{
alert ('I have text')
}