Возникли проблемы с десятичными точками в MS Excel 2007

Question

Я хочу создать график с большим десятичным числом, например -106.63633167743683 или 52.132235169410706. Но всякий раз, когда я ввожу значение в таблицу Excel, оно дает мне значение, например -106.63633167743600 (так как я отформатировал ячейку с 15 знаками после запятой). Он заменяет значение двух последних цифр на 0.

Может кто-нибудь помочь с этим, пожалуйста?

Answer 1

Оба числа в вашем примере будут на графике рассеяния? Я не могу себе представить компьютерный монитор, достаточно большой, чтобы в любом случае показать их с такой точностью. Разве вам не нужно что-то, что имеет 1,5 * 10 ^ 17 пикселей в одном направлении? Например, мой монитор имеет высоту 1050

Или, если это примеры чисел в разных наборах данных, и вы хотите построить числа вроде

-106,63633167743683

-106,63633167743692

где различия уменьшаются в 16-й значащей цифре и далее, вы можете просто построить

83

92

и получите тот же эффект.

Answer 2

106.63633167743600

          1    1
1--.-5----0----5

Числа Excel хранятся как двойные значения IEEE (см. http://support.microsoft.com/kb/78113).. Это означает, что числа могут иметь только 15 значащих цифр точности. Для представления 106.63633167743683 необходимо 17 значащих цифрэто слишком много для Excel. Следовательно, последние 2 цифры становятся равными нулю.

(Excel не предназначен для высокоточной арифметики.)