Вам необходимо векторизовать операторы умножения в ODE, добавив точки
dX1 = r1*X1.*(1-X1/K1)-alpha1*X1.*X2;
dX2 = r2*X2.*(1-X2/K2)-alpha2*X2.*X1;
Кроме того, вы можете подумать о том, чтобы сделать свое векторное поле немного более четким, возможно, linspace(0,15,20)
, чтобы вы могли лучше его визуализировать.