Цветная камера и камера глубины kinect не имеют одинаковых размеров, и источник инфракрасных точек не от той же камеры, это ИК-проектор в нескольких см от него (так как это смещение используется для вычисления глубины) .
Однако решение выглядит легко, ваши теневые данные находятся слева.
поэтому вам нужно расширить последние известные данные о цвете, прежде чем они станут черными.
И чтобы он лучше подходил, переместите данные цветных камер вправо.