Я немного искал, и упоминается способ получения остатков здесь .
По сути, экспортируйте подгонку в рабочее пространство, используя: Fit-> Save to Workspace.Тогда процентная ошибка может быть вычислена как:
residual = z - fittedmodel(x,y);
percentageResidual = residual./z*100;