Смущает Ruby с плавающей точкой

Question

Метод усечения в Float, очевидно, усекает число с плавающей точкой до целого числа.Итак, что здесь происходит:

>> 14820.truncate
=> 14820
>> (148.2 * 100)
=> 14820.0
>> 14820.0.truncate
=> 14820
>> (148.2 * 100).truncate
=> 14819

почему последнее вычисление также не выдает 14820?

Answer 1

Ошибка округления с плавающей точкой, которая не связана с truncate.Например, попробуйте это

 (148.2 * 100) < 14820

Возвращает true.Образно говоря, вы получаете число 148.199999999 вместо 148.2, потому что 148.2 нельзя представить точно в числе с плавающей запятой.

Answer 2

Результат 148.2 * 100, скорее всего, не совсем 14820, а скорее немного меньше этого значения из-за ошибки с плавающей запятой.Таким образом, оно будет усечено до 14819.

Значение можно увидеть с помощью этого:

>sprintf("%.19f", 148.2*100)
=> "14819.9999999999981810106"

Answer 3

Рассматривали ли вы округление вместо усечения?

Answer 4

Как сказано выше, это ошибка округления с плавающей запятой.Я добавлю, что в Ruby есть встроенный класс Rational , который может представлять рациональные дроби без такого недостатка, поэтому вы можете использовать его.