Несмотря на то, что приведенный выше ответ указывает на то, что в коде Matlab чего-то не хватает, решение может означать в R множество разных вещей,
Если в уравнении нет запятой, это ничего не решает и фактически принимает обратное,
Инверсия A, MATLAB: инв (A) R: решить (A)
Следовательно, vcov_beta_hat = [sigma2_hat.*inv((X'*X))];