Каждая точка на вашем изображении обладает свойством, что оно является либо частью щупальца, либо частью интересующего вас объема. Если априори неизвестно, каков ожидаемый обхват щупальца, то 1 не сработает, потому что мы не сможем установить n. Однако мы знаем, что n, которое стирает щупальце, меньше, чем n, которое стирает узел. Вы можете заменить каждую точку целым числом, обозначающим расстояние до края. По сути, это можно сделать путем последовательной эрозии одного пикселя и замены каждого пикселя счетчиком итерации, на которой он был удален. Давайте назовем это толщиной в пикселе, но мой старый ржавый ум говорит мне, что для этого был термин «искусство».
Теперь мы хотим найти регионы, которые имеют морфологическое расстояние от границы выше, чем обычно. Я бы сделал это, сначала скелетизировав изображение (http://www.mathworks.com/help/toolbox/images/ref/bwmorph.html)), а затем выполнив поиск локальных максимумов толщины вдоль скелета. Это точки на скелете, где толщина больше, чем соседние точки.
Наконец, я бы отсортировал локальные максимумы по толщине, порог, на котором следует отделить интересующие объемы от ложных срабатываний.