Ошибка умножения в VB.NET? - PullRequest
       13

Ошибка умножения в VB.NET?

0 голосов
/ 13 декабря 2011
Dim totinr As Double
totinr = 325.0 * 80.6

Когда я запускаю вышеуказанный код (программно, используя непосредственное окно и т. Д.), Я получаю вывод, подобный этому 26194.999999, но вручную или с помощью калькулятора результат получается как целое значение 26195.Как это случилось?Как выполнить вычисления в .NET для двух умножения значений?только умножение только определенных значений в .NET в противном случае умножение на 99% является правильным

Ответы [ 2 ]

1 голос
/ 13 декабря 2011

Одна из самых важных вещей, которую вам нужно выучить в программировании - любой язык - это то, что арифметика с плавающей запятой равна приблизительно !

Это не"плохая вещь", и это, конечно, не должно быть "удивительной" вещью.

Пожалуйста, прочитайте эту ссылку:

0 голосов
/ 13 декабря 2011

Отличный ответ здесь: https://stackoverflow.com/a/618596/540339

Он проходит через точность и когда использовать Float, Double или Decimal.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...