синтаксис неправильный. Если это одно изображение, вы должны написать
imagesc(a);
if - это (я предполагаю) RGB-изображение
imagesc(a); colormap gray;
если оттенки серого.
Если в одной переменной несколько изображений, вы должны использовать
imagesc(a(:,:,:,imagenumber))
для изображения RGB
imagesc(a(:,:,imagenumber)); colormap gray;
для оттенков серого