Исправление неточных математических результатов VBSCRIPT из-за округления

Question

Попробуйте запустить это в файле .VBS

MsgBox(545.14-544.94)

Вы получите аккуратный небольшой ответ 0.199999999999932!

Эта проблема округления также возникает, к сожалению, в Sin (2* pi) , поскольку VB может только когда-либо видеть (определенную пользователем) переменную pi с точностью до 3.14159265358979 .

Округление вручную (и потеря точности) - единственный способ улучшитьрезультат?Какой самый эффективный способ решения этой проблемы?

Answer 1

Так работают числа с плавающей запятой, поэтому следует ожидать небольших неточностей. Для лучшего вывода проще всего отобразить результаты, округленные до меньшего числа цифр.