Вот решение:
img = imread('http://i.stack.imgur.com/tY3YE.jpg');
img = rgb2gray(img); %# transform jpeg color image to grayscale
minValue = min(img,[],2);
%# set the pixels equal to the minimum value to 1
bw = bsxfun(@eq,img,minValue);
Когда я запускаю это на изображении, которое вы связали, я получаю
![enter image description here](https://i.stack.imgur.com/8Mtdm.png)
Что показывает, что существует множество граничных эффектов от медианной фильтрации. Удаление границы 10 пикселей, т.е. с помощью
img = img(10:end-9,10:end-9);
и снова запустив код, я нахожу
![enter image description here](https://i.stack.imgur.com/tu7ov.png)
Что имеет немного больше смысла.