Звучит так, как будто вы, возможно, захотите вариацию отображения Шварца-Кристоффеля . Это тип конформного отображения, который можно использовать для деформации многоугольника в более простую область, например в диск; хотя я не реализовал это, по-видимому, это вычислительно поддается.
Для вашего приложения вы должны настроить карту от исходного многоугольника до более простой области и вычислить обратную карту для измененного многоугольника; объединение двух должно дать вам хорошее конформное отображение от оригинала к модифицированному многоугольнику.
Конформные отображения хороши и гладки, но иногда они могут вести себя не интуитивно; Я могу предположить, что анимированная версия может дать некоторые интересные "скользящие" эффекты. Конформное отображение сохранит локальные углы внутри многоугольника; это означает, что искажение размера в непосредственной близости от модифицированной вершины может быть серьезным.