Из документов вы можете передать строку глобуса (как у вас) или список явных имен файлов для открытия. Поэтому я бы сделал следующее:
import glob
# Get a list of all .nc files available in different folders
filenames = glob.glob("/parent/directory/*/*/*.nc")
dsmerged = xarray.open_mfdataset(filenames)
Это работает на Python 2.7 и 3.6.
Примечание вам может потребоваться выполнить это несколько раз и объединить возвращенные списки, если не все файлы находятся в одной структуре каталогов. То есть если некоторые файлы .nc находятся в /path/one/here/file.nc, а другие - в /path/here/file.nc