Переменные, с которыми вам нужно поиграть:
- отталкивание узла: чем выше, тем больше разойдутся узлы
- притяжение края: чем выше значениечем короче края будут
- размер холста (макет): чем больше холст, тем меньше узлов будут стремиться к периметру.
И, конечно,Вы также можете попробовать другие алгоритмы компоновки.
В вашем случае я бы попробовал увеличить граничную привлекательность и, возможно, также размер компоновки.