Question

Следующее:

double x = .43;
BigDecimal bd = new BigDecimal(z);
System.out.println(bd);

выходы:

.4299999.....

почему

 double u = z*100;
 bd = new BigDecimal(u);
 System.out.println(u);

вывод:

43?

в более общем смыслеЯ пытаюсь найти случай, когда двойное представление вызывает проблему усечения.Рассмотрим следующее:

double d;
int j;
BigDecimal bd;
for(int i = 0; i<10000;i++){
   d= (double)(i/100.);
   j = (int)(d*100.);
   bd = new BigDecimal(j);
   System.out.println(bd);
}

Ни в одном случае не происходит усечение, происходящее

Andreas · Answer 1 · 29 сентября 2018

Ни в одном случае не происходит усечение

Это неверно.Усечение происходит много раз, вы просто не выглядел достаточно близко.

Например, для i = 29:

int i = 29;
double d= i / 100.;
int j = (int)(d * 100.);
BigDecimal bd = new BigDecimal(j);
System.out.println(bd);

Вывод

Упс !!!

Хотя я не знаю, в чем смысл преобразования j в bd, поскольку new BigDecimal(int) всегда точно.

Если вы хотите увидеть все ошибки усечения, попробуйте следующее:

for (int i = 0; i < 10000; i++){
    double d = i / 100.;
    int j = (int)(d * 100.);
    if (i != j)
        System.out.println(i + ": " + j);
}

Вывод

Это 573 раза, то есть 5,73% времени.

двойная точность без усечения, когда тип приведен к int

Пожалуйста, войдите или зарегистрируйтесь чтобы ответить на этот вопрос.

1 Ответ

Пожалуйста, войдите или зарегистрируйтесь что бы добавить комментарий.

двойная точность без усечения, когда тип приведен к int

Пожалуйста, войдите или зарегистрируйтесь чтобы ответить на этот вопрос.

1 Ответ

Пожалуйста, войдите или зарегистрируйтесь что бы добавить комментарий.

Похожие темы