Что именно точность 15 цифр означает для типа данных с плавающей запятой? - PullRequest
0 голосов
/ 29 июня 2011

В соответствии с http://msdn.microsoft.com/en-us/library/ms173773.aspx

число составляет ок.тип данных.

Но также в той же статье упоминается, что float имеет точность 15 цифр.

Что именно это означает под точностью 15 цифр?

Ответы [ 2 ]

2 голосов
/ 29 июня 2011

Это означает, что первые 15 цифр являются приблизительно правильными.Благодаря IEEE 754 есть много чисел, которые не могут быть точно представлены, но вы можете быть уверены, что первые 15 цифр очень близки.

1 голос
/ 29 июня 2011

Ваши числа точны с точностью до 15 цифр. Это означает, что если вы что-то вычисляете и сохраняете результат как число с плавающей запятой, вы можете быть уверены, что первые 15 цифр являются правильным результатом. После этого они могут (и обычно таковыми являются).

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...