Значок на значке приложения отображается до тех пор, пока отображается уведомление об этом приложении.
Вы можете либо установить для autoCancel значение true для своего уведомления, либо программно отменить любое уведомление о своем приложении через NotificationManager.когда приложение становится активным, то есть в onStart или onResume Активов, к которым ведет ваше уведомление.