Левенберг Марквардт - классический алгоритм нелинейной оптимизации. OpenCV действительно использует его для калибровки камеры. Необходимо понять алгоритм в целом, прежде чем углубляться в его использование в OpenCV.
В частности, матрица, которую вы указали, - это якобиан, обобщение одномерной производной на многомерную функцию.