Ошибка деления значений с плавающей точкой в ​​Задаче C - PullRequest
0 голосов
/ 01 марта 2012

Когда я запускаю этот блок кода:

float angle = startAngle;
int i = 0;

for (float f = self.minNumber; f <= self.maxNumber; f += minorTickIncrement) {
    points[i++] = CGPointMake(centerX + cos(angle) * (radius - tickInset), centerY + sin(angle) * (radius - tickInset));

    CGFloat myTickLength;

    NSLog(@"f : %f",f);
    NSLog(@"tickIncrement : %f",tickIncrement);
    NSLog(@"f / tickIncrement : %f",f / tickIncrement);
    NSLog(@"(int)(f / tickIncrement) : %d",(int)(f / tickIncrement));
    NSLog(@"(f / tickIncrement - (int)(f / tickIncrement)) : %f",(f / tickIncrement - (int)(f / tickIncrement)));
    NSLog(@"fabs((f / tickIncrement - (int)(f / tickIncrement))) : %f",fabs((f / tickIncrement - (int)(f / tickIncrement))));

    float checkValue = (f / tickIncrement - (int)(f / tickIncrement));

    if (fabs(checkValue) < 0.05) { // if is major tick
        myTickLength = self.tickLength;
        NSString *string = [[NSString alloc] initWithFormat:@"%0.1f", f];
        float textWidth = textHeight * [string length] / 2;
        CGContextShowTextAtPoint(ctx, centerX + cos(angle) * (radius - textInset) - textWidth / 2.0, centerY + sin(angle) * (radius - textInset) + textHeight / 4.0, [string UTF8String], [string length]);
        [string release];

    } else {
        myTickLength = self.minorTickLength;
    }

    points[i++] = CGPointMake(centerX + cos(angle) * (radius - myTickLength - tickInset), centerY + sin(angle) * (radius - myTickLength - tickInset));

    angle += minorTickAngleIncrement;
}

Отображается следующий вывод:

 f : 0.100000
 tickIncrement : 0.100000
 f / tickIncrement : 1.000000
 (int)(f / tickIncrement) : 1
 (f / tickIncrement - (int)(f / tickIncrement)) : 0.000000
  fabs((f / tickIncrement - (int)(f / tickIncrement))) : 0.000000

  f : 0.120000
 tickIncrement : 0.100000
 f / tickIncrement : 1.200000
 (int)(f / tickIncrement) : 1
 (f / tickIncrement - (int)(f / tickIncrement)) : 0.200000
 fabs((f / tickIncrement - (int)(f / tickIncrement))) : 0.200000

 f : 0.140000
 tickIncrement : 0.100000
 f / tickIncrement : 1.400000
 (int)(f / tickIncrement) : 1
 (f / tickIncrement - (int)(f / tickIncrement)) : 0.400000
 fabs((f / tickIncrement - (int)(f / tickIncrement))) : 0.400000

 f : 0.160000
 tickIncrement : 0.100000
 f / tickIncrement : 1.600000
 (int)(f / tickIncrement) : 1
 (f / tickIncrement - (int)(f / tickIncrement)) : 0.600000
 fabs((f / tickIncrement - (int)(f / tickIncrement))) : 0.600000

 f : 0.180000
 tickIncrement : 0.100000
 f / tickIncrement : 1.800000
 (int)(f / tickIncrement) : 1
 (f / tickIncrement - (int)(f / tickIncrement)) : 0.800000
 fabs((f / tickIncrement - (int)(f / tickIncrement))) : 0.800000

 f : 0.200000
 tickIncrement : 0.100000
 f / tickIncrement : 2.000000
 **(int)(f / tickIncrement) : 1**
 (f / tickIncrement - (int)(f / tickIncrement)) : 1.000000
 fabs((f / tickIncrement - (int)(f / tickIncrement))) : 1.000000

...................

Где вы можете видеть, что в последнем блоке вывода (int)(f / tickIncrement) : 1 должен возвращать 2, но вместо этого он возвращает 1.

Почему это происходит?

1 Ответ

5 голосов
/ 01 марта 2012

Скорее всего, у вас проблемы с представлением с плавающей запятой.
Попробуйте использовать double, но знайте, что это не решит основную проблему, что 2.0, который вы видите, на самом деле 1.99999 ..., который просто форматируется, чтобы показать 2.0

Прочитайте " Что должен знать каждый компьютерщик об арифметике с плавающей точкой "

А пока попробуйте просто:

(int)(f / tickIncrement + tickIncrement / 5.0)
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...