поправьте меня, если я ошибаюсь, но звучит так, как будто вы хотите количество вхождений чисел в вашем векторе, вот альтернатива, если это так:
arr=[1 2 2;3 3 3;5 0 0;0 0 0]; % example array where 1,2,3 occur 1x,2x,3x and 5=>1x, 0=>5x
[x(:,2),x(:,1)]=hist(arr(:),unique(arr(:)));
выводит отсортированную категорию как первый столбец, вхождения как 2-й столбец:
x =
0 5
1 1
2 2
3 3
5 1