В MATLAB, если при индексации указан один параметр, это так называемая линейная индексация. Например, если у вас матрица 4х3, линейные индексы элементов выглядят так, они растут по столбцам:
1 5 9
2 6 10
3 7 11
4 8 12
Поскольку вы передали вектор [1 3] в качестве параметра, были выбраны только 1-й и 3-й элементы.
При выборе целых столбцов или строк должен использоваться следующий формат:
A(:, [list of columns]) % for whole columns
A([list of rows], :) % for whole rows
Общая форма двумерной матричной индексации:
A([list of rows], [list of columns])
Результатом являются элементы на пересечении проиндексированных строк и столбцов. Результатами будут элементы, помеченные X:
A([2 4], [3 4 5 7])
. . C C C . C
R R X X X R X
. . C C C . C
R R X X X R X
Справочник и некоторые похожие примеры: учебник по индексированию матрицы MATLAB .