Обновление с VS6 до VS2017 Math. - PullRequest
1 голос
/ 16 июня 2020

Недавно было решено обновить VS6 до VS2017. Во время проверок мы обнаружили небольшую разницу в 1p в расчетах.

Пример расчета

27243.4999999999999999999996 * 229815.98735837682 / 229815.98735837682

В vs6 это дает значение 27243,4999999996 * *

В vs2017 это дает значение 27243,50

Если это разбито на шаги в vs2017, то

229815.98735837682 / 229815.98735837682 = 1

27243.499999999999999999999699 * 272499 = 27992499

Итак, вопрос: обрабатывает ли VS2017 вычисления иначе, чем VS6? Есть ли встроенное округление?

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...