Преобразование float в int в F #

Question

Может кто-нибудь объяснить, почему int (0.4 * 10.0) это 4 пока int ((2.4 - 2.0) * 10.0) это 3?

А потом также, пожалуйста, объясните, как получить 4. т.е. действительно ли я должен сделать int (System.Math.Round((2.4 - 2.0) * 10.0))?

Это просто ужасно для чего-то, что должно быть таким простым.

Answer 1

Двойное представление 2,4 - 2,0 составляет 0,399999999999. Когда вы конвертируете число в int, десятичная часть усекается, поэтому 3.999999999 усекается до 3.

Answer 2

На самом деле, в .Net существует тип данных decimal, который поможет вам решить эту проблему, если ваши числа могут быть представлены именно в десятичных долях.

2.4m - 2.0m == 0.4m
2.4 - 2.0   != 0.4

Answer 3

И затем также, пожалуйста, объясните, как получить 4. То есть действительно ли я должен сделать

int (System.Math.Round ((2,4 - 2,0) * 10,0))

это просто ужасно для чего-то, что должно быть таким простым.

Конечно, нет, просто определите

let round x = int System.Math.Round(x)

Answer 4

Для преобразования номера float в int используйте:

let i = Convert.ToInt32(f)

Answer 5

Числа с плавающей точкой не имеют бесконечной точности. Некоторые числа могут быть представлены идеально (все, что включает в себя степени двух, например, 1, 1/2 = 0,5, 1/4 = 0,25 и т. Д.), А другие не могут (например, 1/3 не может быть точно разложена в конечную последовательность полномочий двух). Часто прерывание конца бесконечного ряда приводит к тому, что закодированная версия числа немного меньше его истинного значения.

Объедините это с тем фактом, что оператор (int) обрезает, а не округляет, и вы можете столкнуться с ситуацией, когда операция, которая должна дать 4,0, приводит к 3,999999999991 вместо этого, что становится 3 *

Каждый раз, когда вы пытаетесь преобразовать числа с плавающей запятой / двойные в целые, вам нужно тщательно продумать, какой оператор вы хотите использовать - усечение (округление вниз), округление вверх или округление до ближайшего.

Поскольку это проблема с представлениями с плавающей точкой, это верно не только для F #, но и для C # и (IIRC) Java и других языков.