В Matlab вы указываете -v3.7, чтобы сохранить материал в формате hdf5. Вы сохраняете свои матрицы следующим образом:
mat0 = zeros(12,24,12);
mat1 = ones(12,24,12);
mat2 = 2*ones(12,24,12);
save data.mat mat0 mat1 mat2 -v7.3
В python вы читаете их так:
import numpy as np
import h5py
f = h5py.File('/home/innereye/data.mat','r')
mat1 = f.get('mat1')
mat1 = np.array(mat1)
У вас есть много материала о Stackoverflow о чтении файлов матов с python, например, здесь и здесь .