Попробуйте использовать zip4j library
С помощью решения от jondev вы должны обратить внимание на пути к файлам: один / пропущенный может ничего не делать
РЕДАКТИРОВАТЬ: на основекомментарии, вероятно, это может помочь вам:
String externalPath = getExternalFilesDir(null).getAbsolutePath();
Decompress d = new Decompress(externalPath + "/test.zip", externalPath + "/");
d.unzip();