Чтобы сделать это с помощью стандартного проводника Windows и общих диалогов, вам нужно написать или найти подходящее расширение пространства имен Shell.
Расширение пространства имен оболочки - это COM-объект, который позволяет вам представлять виртуальные папки в оболочке проводника. Таким образом, в вашем случае расширение оболочки позволит пользователю перемещаться по файловой структуре jar, как если бы она находилась в папке на вашем компьютере.
Вы можете написать расширение оболочки с управляемым кодом, но по крайней мере для версий платформы до 4.0 это не поддерживалось MS из-за потенциальных проблем с конфликтом загрузки более чем одной версии платформы в процесс. Теперь, когда 4.0 поддерживает параллельную загрузку версий фреймворка, возможно это поддерживается.
Вот ссылка на статью о написании расширения пространства имен оболочки.
http://msdn.microsoft.com/en-us/magazine/cc188741.aspx
Я никогда не пробовал этого, но есть расширение, которое поддерживает обработку файлов, поддерживаемых 7-zip, в качестве папки. Может быть, это поможет вам, по крайней мере, начать, если вам нужно сделать это самостоятельно.
http://7zipshell.codeplex.com/