Проблемы точности с плавающей точкой - PullRequest
0 голосов
/ 16 ноября 2018

Использование Microsoft Excel 2010.

Почему эти две формулы дают разные результаты?

= (0.5 - 0.4 - 0.1)

производит -2,775E-17 в то время как

= 0.5 - 0.4 - 0.1

производит ровно 0.

Разница только в скобках. Пытается ли Excel сделать умные вещи с числами с плавающей точкой, которые, по его мнению, должны быть определенным значением, а не другим значением, чтобы скрыть обычные проблемы двоичной с плавающей точкой и заставить ее выглядеть так, как будто она использует десятичную арифметику? Это задокументировано?

...