Вы можете сделать что-то похожее с polarhistogram
;

Код ниже не будет очень общим, ноэто поможет вам в этом разобраться:
N1 = 20; Group1 = rand(1,N1);
N2 = 10; Group2 = rand(1,N2);
N3 = 40; Group3 = rand(1,N3);
M = 3; % Number of groups
aWidth = 2*pi/M; % Area width in unit circle for each group
% Remap data values to area
Group1 = Group1*aWidth + 0*aWidth;
Group2 = Group2*aWidth + 1*aWidth;
Group3 = Group3*aWidth + 2*aWidth;
polarhistogram(Group1, N1/5, 'FaceColor','red', 'BinLimits', [0 1]*aWidth); hold on;
polarhistogram(Group2, N2/5, 'FaceColor','blue', 'BinLimits', [1 2]*aWidth);
polarhistogram(Group3, N3/5, 'FaceColor','green', 'BinLimits', [2 3]*aWidth);
legend('Group1', 'Group2', 'Group3');