в n измерениях, вы можете найти индексы с:
ind=np.array(np.where(a!=0)).T
#array([[0, 2, 0],
# [0, 4, 0],
# [1, 0, 0],
# [1, 2, 0]], dtype=int64)
и соответствующие значения, например, с:
ravel_ind=np.apply_along_axis(ravel_multi_index,1,ind,a.shape)
values=np.take(a,ravel_ind)
# array([1, 1, 1, 1])