Диалектик имеет право: сравнивать вычисленные поплавки на равенство опасно. Из-за того, что некоторые числа не являются полностью представимыми в базе два (например, 0,1), они будут только приблизительно правильными.
Вы можете использовать целые числа, как он предлагает, но я бы сделал еще одну поправку: скорее чем вычислять x [n + 1] = x [n] + dx, рассмотрим вычисление x [n + 1] = dx * i [n + 1]. Другими словами, не используйте повторное добавление (которое может накапливать большие ошибки со временем); вместо этого вычисляйте значение x de novo на каждой итерации из целого числа, которое итерируется, и шага с плавающей запятой (в данном случае 0,1). Это не будет накапливать ошибки с течением времени таким же образом. Я рекомендую вам попробовать это, сравнивая миллионное значение, полученное при повторном сложении, с прямым умножением на каждом шаге.
РЕДАКТИРОВАТЬ: У меня была свободная минутка, поэтому я решил провести этот тест самостоятельно.
<html>
<head>
<title>
Floating Point Test
</title>
</head>
<body>
<input type="button" id="btnRun" value="Run" onclick="run();" />
<br/>
<textarea id="txtOutput" rows=20 cols=50></textarea>
<script language="javascript">
function run() {
var add = 0.0;
var mul = 0.0;
var i = 0;
var dx = 0.1;
var lastPower = 1;
var output = "";
for (i = 0; i < 1000000000; i++) {
add = add + dx;
mul = dx * (i + 1);
if (i + 1 >= lastPower) {
output += "i=" + i + ", add=" + add + ", mul=" + mul + "\n";
lastPower *= 10;
}
}
document.getElementById("txtOutput").value = output;
}
</script>
</body>
</html>
Вывод выглядит так:
i=0, add=0.1, mul=0.1
i=9, add=0.9999999999999999, mul=1
i=99, add=9.99999999999998, mul=10
i=999, add=99.9999999999986, mul=100
i=9999, add=1000.0000000001588, mul=1000
i=99999, add=10000.000000018848, mul=10000
i=999999, add=100000.00000133288, mul=100000
i=9999999, add=999999.9998389754, mul=1000000
i=99999999, add=9999999.98112945, mul=10000000
i=999999999, add=99999998.74541782, mul=100000000