Деформация изображения обычно состоит из двух основных этапов. На первом этапе вы ищете точки, которые соответствуют на каждом изображении. Второй этап включает в себя поиск преобразования между множеством совпадающих точек. Ни один из этапов не является тривиальным, и деформация изображения (вообще говоря) остается сложной проблемой. Я должен был решить эту проблему в прошлом и поэтому могу говорить из опыта.
Разделив задачу на две части, вы можете разработать решения для каждой части независимо. Было бы полезно прочитать некоторые материалы в Интернете, например, http://groups.csail.mit.edu/graphics/classes/CompPhoto06/html/lecturenotes/14_WarpMorph_6.pdf,.
На первом этапе взаимная корреляция часто используется в качестве основы для нахождения совпадающих точек на двух изображениях.
Преобразования, используемые на втором этапе, определят, насколько точно вы можете деформировать одно изображение в другое. Линейное преобразование теперь будет очень хорошим, в то время как двумерное преобразование, использующее сплайн-аппроксимацию, безусловно, справится с нелинейностями.
Вот еще одна полезная ссылка