Если все пути начинаются с одного и того же начального списка каталогов, то вы можете использовать, например, tar cvf test.tgz -C ../.. other/dir. Помните, что оболочка не будет расширять символы подстановки в путевых именах "должным образом", потому что -C просит tar изменить каталог.
В противном случае единственный способ, который я когда-либо придумал, - создать временный каталог, заполненный соответствующими символическими ссылками, и использовать параметр -h для разыменования через символические ссылки. Конечно, это не сработает, если некоторые файлы, которые вы хотите сохранить, сами являются символическими ссылками.