Я полагаю, вы решаете B = (I - rho*F) B
(на основе статьи в Википедии )
Итерационные методы Гаусса-Зейделя и Якоби гарантированно сходятся, если матрица доминирует по диагонали (гаусс-Зейдель также гарантированно сходятся, если матрица симметрична и положительно определена)
Строки матрицы F (коэффициенты просмотра) суммируют до 1, поэтому, если rho (отражательная способность) <1, что физически должно быть, матрица будет доминировать по диагонали. </p>