Вы должны добавить строку hold off
в конец вашего l oop, чтобы сбросить свойства осей, иначе MATLAB попытается соединить все от начальной точки Vout1 до каждой точки в Vout1, Vout2 и Vout3
A=13.5;
R1=40;
R2=40;
R3=40;
R4=40;
Vref=5;
Vout1=zeros(size(0:0.01:0.25));
Vout2=zeros(size(0:0.01:0.25));
Vout3=zeros(size(0:0.01:0.25));
avector=zeros(size(0:0.01:0.25));
n=0;
for a=0:0.01:0.35
n=n+1;
avector(1,n)=a;
Vout1(1,n)=(A*a*Vref)/(4*(1+a/2));
Vout2(1,n)=(A*Vref)*(((1.01*R1)/(1.01*R1+0.99*R2))-((0.99*R3)/(0.99*R3+(1+a)*1.01*R4)));
Vout3(1,n)=(A*Vref)*(((0.99*R1)/(0.99*R1+1.01*R2))-((1.01*R3)/(1.01*R3+(1+a)*0.99*R4)));
plot(avector,Vout1)
hold on
plot(avector,Vout2)
plot(avector,Vout3)
% add this line
hold off
end