1,15 - 1,13 = 0,01999998 или 0,02?

Question

У меня есть следующий код в двух разных проектах на одном компьютере:

Dim MySingle1 As Single = 1.15
Dim MySingle2 As Single = 1.13
Dim MyResult As Single = MySingle1 - MySingle2

Но самое интересное то, что в одном проекте MyResult равен 0,02, а в другом проекте MyResult равен 0,01999998.

Я не смог решить это. Пожалуйста, предложите мне предложения.

Заранее благодарю.

С уважением SKPaul ​​

Answer 1

Что должен знать каждый компьютерный ученый об арифметике с плавающей запятой

Короче говоря, компьютеры не могут точно представлять большинство чисел с плавающей запятой.Они работают в приближении.

Answer 2

Плавающая точка использует внутренне представление base-2. Для одинарной точности это 24 бита, что примерно эквивалентно ~ (6,7) десятичным цифрам точности, что вы и получаете (ваша седьмая цифра неточна).