Вы можете просто не использовать что-то подобное, чтобы заменить все "/" в одном go
convertedUrl = convertedUrl.replaceAll("\\/","");
Извините за начальный, но я думаю, что это будет делать:
convertedUrl = convertedUrl.replaceFirst("^/*","");
ИЛИ:
convertedUrl = convertedUrl.replaceAll("^/*","");
оба выполнят свою работу! поскольку они заменяют все ведущие символы "/"!