Если вы генерируете Уведомление из Службы, которая запускается на переднем плане с использованием
startForeground(NOTIFICATION_ID, notificationBuilder.build());
Тогда выдача
notificationManager.cancel(NOTIFICATION_ID);
не приводит к отмене уведомления, а уведомление по-прежнему отображается в строке состояния. В этом конкретном случае вам нужно будет выдать
stopForeground( true );
изнутри сервиса, чтобы вернуть его в фоновый режим и одновременно отменить уведомления. Кроме того, вы можете отодвинуть его в фоновый режим, не отменяя уведомление, а затем отменить уведомление.
stopForeground( false );
notificationManager.cancel(NOTIFICATION_ID);