Преобразование растровой графики в векторную графику (например, PNG в SVG) - это определенно нетривиальная задача, не имеющая прямого решения. Делать это наоборот - от вектора к растровой графике - это, конечно, простой процесс рендеринга, и именно так обычно и поступают, если вам нужны оба формата.
По своей сути такое преобразование требует сложных и подверженных ошибкам алгоритмов, которые анализируют шаблоны в изображениях. Более сложные изображения просто невозможно будет разложить на векторную графику. Техническое объяснение основано на том факте, что информационная энтропия для растровых представлений гарантированно выше, чем для векторных представлений, что означает, что всегда существует неопределенность в обращении четко определенного процесса рендеринга векторной графики.
Лучшая программа, широко доступная для вашей задачи, вероятно, будет Vector Magic (условно-бесплатная). Если это не поможет вам, вряд ли что-то изменится, хотя, конечно, вам, вероятно, потребуется много настроек для достижения хороших результатов.