MATLAB не вычисляет такие выражения как логическую комбинацию отдельных неравенств.
a<b<c
не совпадает с a<b AND b<c
Он вычисляет их в порядке старшинства и оставляетвправо.
a<b<c
рассчитывается таким образом, как если бы оно было d = a<b
(d было бы логическим 0 или 1), тогда d<c
Таким образом, ваши выражения расширяются до
1<5 = logical 1
1>2 = logical 0
0<1 = logical 1