Если вы используете mp3 в папке res, попробуйте так:
notificationBuilder.setSound(Uri.parse("uri://sadfasdfasdf.mp3"));
В противном случае вы можете использовать тональный сигнал по умолчанию,
Uri uri = RingtoneManager.getDefaultUri(RingtoneManager.TYPE_NOTIFICATION);
notificationBuilder.setSound(uri);