Excel округляет одно и то же число по-разному - PullRequest
0 голосов
/ 27 сентября 2018

Я столкнулся с этой проблемой в Excel: если я удаляю несколько десятичных цифр для одного и того же числа (полученного с помощью двух разных формул), я получаю два разных округленных числа.Число -0,0195 округляется до -0,020 при получении 0,43930 - 0,45880, а округляется до -0,019 при получении 1,09230 - 1,11180.

Может кто-нибудь объяснить мнеэто поведение?(Я знаю, что могу использовать формулу ROUNDUP для решения, но мне нужно исследовать вопрос.)

1 Ответ

0 голосов
/ 30 сентября 2018

Я думаю, что вы столкнулись с тем, что называется «Точность с плавающей точкой».Эта проблема связана с двумя вещами:

  • Excel может обрабатывать только 15 цифр
  • Стандарт IEEE 754 с плавающей запятой требует, чтобы числа сохранялись в двоичном формате.

"Стандарт IEEE 754 требует, чтобы числа были сохранены в двоичном формате. Это означает, что преобразование должно произойти до того, как числа могут быть использованы в вычислениях. Если число может быть представленоточно в формате с плавающей запятой, тогда преобразование является точным. " Источник: Понимание точности с плавающей запятой, иначе« Почему Excel дает мне, казалось бы, неправильные ответы?

«В IEEE есть стандарт, IEEE 754, для представления чисел с плавающей запятой в двоичном формате, и это то, что почти все используют, включая Excel, и они имеют очень долгое время, и это означает, что иногда вы получаете неточные результаты, когда высложите вместе много 0,1, но если вы округляете числа до разумного числа десятичных знаков, вам все равно. " Источник: Объясните ошибку Excel

Поэтому вы можете получить результаты, которые кажутся неправильными.Более вероятно, что это произойдет, когда вы добавите или вычтете несколько десятичных значенийЯ проиллюстрировал это на рисунке ниже:

Floating Point Precision Issue Illustrated

Существует два простых способа настроить Excel для этого поведения:

  1. Используйте round(), чтобы округлить числа и увеличить количество отображаемых цифр.
  2. В меню параметров Excel -> Дополнительно -> нажмите «Установить точность, как показано».Результат будет следующим:

enter image description here

...