Определение планарного графика, который минимизирует количество пересечений, является NP-Hard.См. Вики-страницу на Пересеченное число .
Вы можете попробовать некоторые эвристики, я полагаю, что макет на основе силы довольно популярен (графвиз использует их, если я правильно помню).
Вы также можете попробовать некоторые алгоритмы аппроксимации, вы должны найти ссылки на вики-странице, на которую я ссылаюсь.
Надеюсь, это поможет.