Как деформировать изображение, используя деформированную сетку

Question

Я пытаюсь создать «смятые» изображения, используя изображения, полученные с помощью сканера с планшетной кроватью.

Следуя методу, описанному в статье [Ссылка] в разделе 3.1.Я написал код для генерации возмущенной сетки, но я не знаю, как отобразить эти пиксели из исходного изображения на эту сетку, чтобы сформировать возмущенное изображение.

Это код для генерации возмущенной сетки.

import numpy as np
import matplotlib.pyplot as plt

mr = 88
mc = 68

xx = np.arange(mr-1, -1, -1)
yy = np.arange(0, mc, 1)
[Y, X] = np.meshgrid(xx, yy)
ms = np.transpose(np.asarray([X.flatten('F'), Y.flatten('F')]), (1,0))

perturbed_mesh = ms
nv = np.random.randint(20) - 1
for k in range(nv):
    #Choosing one vertex randomly
    vidx = np.random.randint(np.shape(ms)[0])
    vtex = ms[vidx, :]
    #Vector between all vertices and the selected one
    xv  = perturbed_mesh - vtex
    #Random movement 
    mv = (np.random.rand(1,2) - 0.5)*20
    hxv = np.zeros((np.shape(xv)[0], np.shape(xv)[1] +1) )
    hxv[:, :-1] = xv
    hmv = np.tile(np.append(mv, 0), (np.shape(xv)[0],1))
    d = np.cross(hxv, hmv)
    d = np.absolute(d[:, 2])
    d = d / (np.linalg.norm(mv, ord=2))
    wt = d

    curve_type = np.random.rand(1)
    if curve_type > 0.3:
        alpha = np.random.rand(1) * 50 + 50
        wt = alpha / (wt + alpha)
    else:
        alpha = np.random.rand(1) + 1
        wt = 1 - (wt / 100 )**alpha
    msmv = mv * np.expand_dims(wt, axis=1)
    perturbed_mesh = perturbed_mesh + msmv

plt.scatter(perturbed_mesh[:, 0], perturbed_mesh[:, 1], c=np.arange(0, mr*mc))
plt.show()

Вот как выглядит возмущенная сетка:

Это скриншот из бумаги, иллюстрирующий генерацию синтетического изображения:

Пример исходного изображения для тестирования: https://i.stack.imgur.com/26KN4.jpg

Я застрял с отображением пикселей исходного изображения на сетку.Я буду благодарен, если кто-то может помочь.

Answer 1

(1) Используйте cv2.copyMakeBorder для увеличения изображения, чтобы избежать деформации точек, выходящих за пределы диапазона исходного размера изображения.

cv2.copyMakeBorder(...)
    copyMakeBorder(src, top, bottom, left, right, borderType[, dst[, value]]) -> dst
    .   @brief Forms a border around an image.
    .
    .   The function copies the source image into the middle of the destination image. The areas to the
    .   left, to the right, above and below the copied source image will be filled with extrapolated
    .   pixels. This is not what filtering functions based on it do (they extrapolate pixels on-fly), but
    .   what other more complex functions, including your own, may do to simplify image boundary handling.

использование:

img = cv2.copyMakeBorder(img, dh, dh, dw, dw, borderType=cv2.BORDER_CONSTANT, value=(0,0,0))

Установите dw=nw//2, dh=nh//2, возможно, все в порядке, отрегулируйте, если необходимо.nh, nw - это высота и ширина исходного изображения.

(2) Создайте сетку с возмущенными сетками, используя метод из бумаги

xs, ys = create_grid() # the result is like np.meshgrid

Обратите внимание, убедитесь, что тип и размер.

# xs = xs.reshape(nh, nw).astype(np.float32)
# nh, nw is the height and width of the coppied image

(3) Используйте cv2.remap для переназначения:

cv2.remap(...)
    remap(src, map1, map2, interpolation[, dst[, borderMode[, borderValue]]]) -> dst
    .   @brief Applies a generic geometrical transformation to an image.
    .
    .   The function remap transforms the source image using the specified map:
    .   \f[\texttt{dst} (x,y) =  \texttt{src} (map_x(x,y),map_y(x,y))\f]

Использование:

dst= cv2.remap(img, xs, ys, cv2.INTER_CUBIC)

Это демонстрационный результат:

(4) Обрезать ненулевую область и при необходимости изменить ее размер:

---

Связанный:

1. Преобразование кода переназначения opencv из c ++ в python

2. Разделение строк текста в отсканированном документе