Символ '\' является специальным символом и должен быть экранирован при использовании как часть строки, например, "\". Вот пример сравнения строк с использованием символа '\':
if (invName.substring(j,k).equals("\\")) {...}
Вы также можете выполнить прямое сравнение символов, используя логику, подобную следующей:
if (invName.charAt(j) == '\\') {...}