Здесь есть две проблемы - одна отображает результат анализа - и это легко - и вы можете просто использовать цвет Vertex.
Вторая, главная проблема - это сам анализ.Я сомневаюсь, что это возможно в шейдере, так как шейдеры, как правило, не имеют доступа ко всем вершинам, даже вершинный шейдер работает со стрирам, а не со всей сеткой, поэтому вы не сможете обнаружить, присутствует ли другая точка.где-то вниз по течению, близко к нашей позиции или нет.
Но ничто не мешает проводить такого рода анализ процессора и просто передавать результаты в виде цветов вершин, или в виде текстуры, или какUV.Это будет связано, в основном, с доступом к классу Mesh, а не с шейдерной стороной вещей.