Самый простой подход - это вычисление вашего преобразования на основе всех точек, вычисление остатков для каждой точки, удаление точек с высоким остатком до тех пор, пока вы не достигнете приемлемого преобразования или не достигнете минимального числа приемлемых входных точек. Остаток для любой заданной точки - это расстояние соединения между прямым преобразованным значением для точки и намеченной целевой точкой.
Обратите внимание, что остатки между аффинным преобразованием и преобразованием Гельмерта (конформным) будут сильно отличаться, так как эти преобразования делают разные вещи. Неоднородная шкала аффинности имеет большее «растяжение» и, следовательно, приведет к меньшим остаткам.