Я предполагаю, что команда выглядит примерно так:
R = mvnrnd (MU, SIGMA)
Элементами SIGMA должны быть ковариации, которые по определению являются положительными, и, следовательно, SIGMA должна быть положительной полуопределенной матрицей. то есть имеет положительные или равные нулю собственные значения.
Таким образом, вы подпитываете свою функцию Сигмой, которая является ошибочной.
Я бы посоветовал вам проверить свой код или опубликовать его здесь.