Является ли реализация MPI инверсии матриц стандартной библиотечной процедурой или хорошая реализация MPI критически зависит от вашей настройки (программного / аппаратного обеспечения), поэтому ее необходимо кодировать самостоятельно.
ScaLAPACK предоставляет реализации множества функций линейной алгебры, включая решение задач наименьших квадратов. См., Например, руководство пользователя ScaLAPACK . (Я не думаю, что у ScaLAPACK общая обратная матрица - надеюсь, ваше приложение нуждается в обратном только для решения линейной системы - в этом случае использование функциональности для этого будет более точным, чем попытка найти обратное).