Проблема при сравнении двух значений IloNum - PullRequest
Новая
       70

Проблема при сравнении двух значений IloNum

0 голосов
/ 21 февраля 2019

Следующий фрагмент кода: 

IloNum i = 2*0.6 + 3*0.4 + 0.6 - 0.4 + 1 + 0.6 - 0.4 + 1;
IloNum j = 4.8;
cout << "i=" << i << ", j=" << j << ", (i>j)=" << (i > j) << endl;

имеет следующий вывод:

i=4.8, j=4.8, (i>j)=1

Я пропустил некоторые детали в документации или этоошибка?

1 Ответ

0 голосов
/ 22 февраля 2019

вы должны помнить, что как только вы выполняете некоторые операции с плавающей точкой, у вас появляются небольшие ошибки.

Если я переписываю вашу модель в OPL 

float i = 2*0.6 + 3*0.4 + 0.6 - 0.4 + 1 + 0.6 - 0.4 + 1;
float j = 4.8;

execute
{
writeln("i=" , i , ", j=" ,j ,", (i>j)=" , (i > j) );;
}

float i2=i-4.8;
float j2=j-4.8;

execute
{
writeln("i2=",i2);
writeln("j2=",j2);
}

, тогда я получаю 

i=4.8, j=4.8, (i>j)=true
i2=8.881784197e-16
j2=0

, который показывает крошечную неточность, которая приводит к тому, что выглядит как парадокс

И позвольте мне подчеркнуть, что 

    float i = 2*6 + 3*4 + 6 - 4 + 10 + 6 - 4 + 10;
float j = 48;

execute
{
writeln("i=" , i , ", j=" ,j ,", (i>j)=" , (i > j) );;
}

float i2=i-48;
float j2=j-48;

execute
{
writeln("i2=",i2);
writeln("j2=",j2);
}

дает 

i=48, j=48, (i>j)=false
i2=0
j2=0

в отношении

...