Точность Matlab составляет всего 8 цифр? - PullRequest
1 голос
/ 08 апреля 2020

Цитирование из: https://www.mathworks.com/help/symbolic/increase-precision-of-numeric-calculations.html

По умолчанию MATLAB® использует 16 цифр точности.

Но почему, когда я пишу 900000000+2 (8 нулей после 9) возвращает 900000002, но запись 900000000+2 (9 нулей после 9) возвращает 9.0000e+09 разве это не точность 8 di git?

1 Ответ

1 голос
/ 08 апреля 2020

вы используете команду format для управления количеством цифр для печати. help format чтобы увидеть больше деталей. Попробуйте format long g и повторите команду, чтобы увидеть больше цифр.

По умолчанию MATLAB® использует 16 цифр точности.

это относится к точности вычисления, а не к точность печати. По умолчанию MATLAB определяет переменные как двойные, что обычно с точностью до 16 цифр. Но вы можете напечатать такое число двойной точности в нижних предвидениях (управляется командой форматирования)

...