Сборка мусора выиграет, если вы соберете как можно меньше вещей. Многомерный массив будет рассматриваться как одно выделение:
short[,,] a = new short[2,3,4];
Зубчатый массив будет использовать много разных распределений. Его меньшие размеры могут быть распределены намного быстрее, но это может привести к большей нагрузке на GC во время сбора:
short[][][] a = new short[2][][];
Раньше я никогда не слышал о "мозаике памяти", поэтому, если вы сможете объяснить, что это, я мог бы лучше ответить на ваш вопрос.