Определить сетку, для которой определены изображения
>> sz = size(img1);
>> [y x] = ndgrid( 1:sz(1), 1:sz(2) );
Используйте сетку для определения интерполяции
>> timg2 = interp( x, y, img2, x + tx, y + ty );
PS
Возможно, вы захотите взглянуть на tformarray
, чтобы сделать то же самое.