Как удалить данные изображения I420? продуктивно - PullRequest
1 голос
/ 23 января 2020

Я могу успешно деисторировать RGB-изображение.

Теперь я работаю с напрямую неискаженным данными I420 вместо того, чтобы сначала преобразовать их в RGB.

Ниже приведены шаги, которые я выполнил после калибровка камеры.

K = cv::Matx33d(541.2152931632737, 0.0, 661.7479652584254,
                0.0, 541.0606969363056, 317.4524205037745,
                0.0,               0.0,               1.0);
D = cv::Vec4d(-0.042166406281296365, -0.001223961942208027, -0.0017036710622692108, 0.00023929900459453295);
newSize = cv::Size(3400, 1940);
cv::Matx33d new_K;
cv::fisheye::estimateNewCameraMatrixForUndistortRectify(K, D, cv::Size(W, H), cv::Mat::eye(3, 3, CV_64F), new_K, 1, newSize);    // W,H are the distorted image size
cv::fisheye::initUndistortRectifyMap(K, D, cv::Mat::eye(3, 3, CV_64F), new_K, newSize, CV_16SC2, mapx, mapy);

cv::remap(src, dst, mapx, mapy, cv::INTER_LINEAR);

Приведенный выше код дает мне неискаженное изображение успешно.

Теперь я хочу удалить данные I420. Итак, теперь мой sr c будет данными I420 / YV12. Как я могу удалить данные I420 без предварительного преобразования их в RGB?

Кстати, I420 - это формат изображения только с 1 каналом (в отличие от 3 каналов в RGB). Имеет высоту = 1,5 * высота изображения. Его ширина равна ширине изображения.

Ниже приведен код для преобразования I420 в BGR

cvtColor(src, BGR, CV_YUV2BGR_I420, 3);

BGR - расположение пикселей BGR I420 - расположение пикселей I

Ответы [ 2 ]

3 голосов
/ 23 января 2020

Наиболее эффективным решением является изменение размера mapx и mapy и применение сжатых карт на каналах U и V с пониженной дискретизацией:

  • Сокращение mapx и mapy с коэффициентом x2 в каждой оси - создавать матрицы меньших карт.
  • Разделите все элементы сокращенных карт на 2 (применяется отображение изображения с более низким разрешением).
  • Применить mapx и mapy на цветном канале Y.
  • Применить shrunk_mapx и shrunk_mapy к цветным каналам с пониженной частотой дискретизации U и V.

Вот пример кода Python OpenCV (см. Комментарии):

import cv2 as cv
import numpy as np

# For the example, read Y, U and V as separate images.
srcY = cv.imread('DistortedChessBoardY.png', cv.IMREAD_GRAYSCALE) #  Y color channel (1280x720)
srcU = cv.imread('DistortedChessBoardU.png', cv.IMREAD_GRAYSCALE) #  U color channel (640x360)
srcV = cv.imread('DistortedChessBoardV.png', cv.IMREAD_GRAYSCALE) #  V color channel (640x360)

H, W = srcY.shape[0], srcY.shape[1]

K = np.array([[541.2152931632737, 0.0, 661.7479652584254],      
              [0.0, 541.0606969363056, 317.4524205037745],
              [0.0,               0.0,               1.0]])

D = np.array([-0.042166406281296365, -0.001223961942208027, -0.0017036710622692108, 0.00023929900459453295])

# newSize = cv::Size(3400, 1940);
newSize = (850, 480)

# cv::Matx33d new_K;
new_K = np.eye(3)

# cv::fisheye::estimateNewCameraMatrixForUndistortRectify(K, D, cv::Size(W, H), cv::Mat::eye(3, 3, CV_64F), new_K, 1, newSize);    // W,H are the distorted image size
new_K = cv.fisheye.estimateNewCameraMatrixForUndistortRectify(K, D, (W, H), np.eye(3), new_K, 1, newSize)

# cv::fisheye::initUndistortRectifyMap(K, D, cv::Mat::eye(3, 3, CV_64F), new_K, newSize, CV_16SC2, mapx, mapy);
mapx, mapy = cv.fisheye.initUndistortRectifyMap(K, D, np.eye(3), new_K, newSize, cv.CV_16SC2);

# cv::remap(src, dst, mapx, mapy, cv::INTER_LINEAR);
dstY = cv.remap(srcY, mapx, mapy, cv.INTER_LINEAR)

# Resize mapx and mapy by a factor of x2 in each axis, and divide each element in the map by 2
shrank_mapSize = (mapx.shape[1]//2, mapx.shape[0]//2)
shrunk_mapx = cv.resize(mapx, shrank_mapSize, interpolation = cv.INTER_LINEAR) // 2
shrunk_mapy = cv.resize(mapy, shrank_mapSize, interpolation = cv.INTER_LINEAR) // 2

# Remap U and V using shunk maps
dstU = cv.remap(srcU, shrunk_mapx, shrunk_mapy, cv.INTER_LINEAR, borderValue=128)
dstV = cv.remap(srcV, shrunk_mapx, shrunk_mapy, cv.INTER_LINEAR, borderValue=128)

cv.imshow('dstY', dstY)
cv.imshow('dstU', dstU)
cv.imshow('dstV', dstV)

cv.waitKey(0)
cv.destroyAllWindows()

Результат:

Y:
dstY

U:
dstU

V:
dstV

После преобразования в RGB:
RGB


Особенности реализации C ++:

Начиная с I420 формат Упорядочивает Y, U и V как 3 непрерывные плоскости в памяти, просто установить указатель на каждую "плоскость" и рассматривать его как изображение в градациях серого.
При таком же порядке данных применяется выходное изображение - установите 3 указателя на выход " самолеты».

Иллюстрация (при условии, что ширина и высота равны, а длина шага по байту равна ширине):

srcY -> YYYYYYYY           dstY -> YYYYYYYYYYYY
        YYYYYYYY                   YYYYYYYYYYYY
        YYYYYYYY                   YYYYYYYYYYYY
        YYYYYYYY                   YYYYYYYYYYYY
        YYYYYYYY   remap           YYYYYYYYYYYY
        YYYYYYYY  ======>          YYYYYYYYYYYY
srcU -> UUUU                       YYYYYYYYYYYY
        UUUU               dstU -> YYYYYYYYYYYY
        UUUU                       UUUUUU
srcV -> VVVV                       UUUUUU
        VVVV                       UUUUUU
        VVVV                       UUUUUU
                           dstV -> VVVVVV
                                   VVVVVV
                                   VVVVVV
                                   VVVVVV

Реализация приведенной выше иллюстрации - C ++

Предполагая, что ширина и высота равны, а шаг байта равен ширине, вы можете использовать следующий пример C ++ для преобразования плоскостей Y420 в Y, U и V:

Предположим: srcI420 равно Wx(H*3/2) матрица в формате I420, например cv::Mat srcI420(cv::Size(W, H * 3 / 2), CV_8UC1);.

int W = 1280, H = 720;  //Assume resolution of Y plane is 1280x720

//Pointer to Y plane
unsigned char *pY = (unsigned char*)srcI420.data;

//Y plane as cv::Mat, resolution of srcY is 1280x720
cv::Mat srcY = cv::Mat(cv::Size(W, H), CV_8UC1, (void*)pY);

//U plane as cv::Mat, resolution of srcU is 640x360 (in memory buffer, U plane is placed after Y).
cv::Mat srcU = cv::Mat(cv::Size(W/2, H/2), CV_8UC1, (void*)(pY + W*H));

//V plane as cv::Mat, resolution of srcV is 640x360 (in memory buffer, V plane is placed after U).
cv::Mat srcV = cv::Mat(cv::Size(W / 2, H / 2), CV_8UC1, (void*)(pY + W*H + (W/2*H/2)));

//Display srcY, srcU, srcV for testing
cv::imshow("srcY", srcY);
cv::imshow("srcU", srcU);
cv::imshow("srcV", srcV);
cv::waitKey(0);

Приведенный выше пример использует манипуляции с указателями без необходимости копирования данных.
Вы можете использовать те же манипуляции с указателями для целевого изображения I420.

Примечание. Решение будет работать в большинстве случаев, но не гарантировано, что оно будет работать во всех случаях.

0 голосов
/ 23 января 2020

РЕДАКТИРОВАТЬ : Компоненты не чередуются в формате YV12, поэтому следующее не будет работать:

Если данные YV12 представляют собой одноканальное изображение, интерполяция remap операция применяется к значению, представленному всеми тремя данными YUV вместо отдельных компонентов Y, U и V.

Поэтому, грубо говоря, вместо выполнения

c .YYYYYYYY, c .UU, c .VV

будет выполнять

c .YYYYYYYYUUVV

во время линейной интерполяции.

Вы можете выполнить преобразование цвета YV12 -> BGR после переназначения, но цвета интерполированных пикселей будут неправильными.

Вместо линейной интерполяции попробуйте использовать интерполяцию ближайшего соседа в remap. Тогда вы сможете получить правильные цвета после преобразования цветов YV12 -> BGR.

Итак, найдите mapx, mapy, затем remap, используя INTER_NEAREST, и, наконец, выполните преобразование цветов YV12 -> BGR.

...