На ваш вопрос не так-то просто ответить, так как вы на самом деле не определяете, чего должно достичь идеальное решение.
Вы пробовали im2bw(yourImage, 0.1);
? Т.е. использование порога для того, какие части должны быть черными, а какие нет. Я получил результаты спуска с этим (в зависимости от того, что цель, конечно). Попробуйте, и если он недостаточно хорош, скажите нам, как вам нужно его улучшить, и я постараюсь помочь с некоторыми более продвинутыми методами!
РЕДАКТИРОВАТЬ: Используя пороговые значения 0,1 и 0,01 соответственно, возможно, что-то ~ 0,05 должно быть хорошо?