NSDecimalNumber умножение странности - PullRequest
Новая
       9

NSDecimalNumber умножение странности

4 голосов
/ 05 апреля 2010

ExclusivePrice, количество - оба NSDecimalNumbers. 

NSDecimalNumber *price = [exclusivePrice decimalNumberByMultiplyingBy:quantity];
NSLog(@"%@ * %@ = %@", exclusivePrice, quantity, price);

Результат, который я получаю: 

2010-04-05 00:22:29.111 TestApp[13269:207] 65 * 2 = -0.0000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000007169919476068871316457914368

Что я ожидал: 

2010-04-05 00:22:29.111 TestApp[13269:207] 65 * 2 = 130

Может кто-нибудь объяснить это, пожалуйста?

Edit:

Полное воспроизведение: 

NSNumberFormatter *formatter = [[NSNumberFormatter alloc] init];
[formatter setNumberStyle:NSNumberFormatterDecimalStyle];
NSDecimalNumber *n2 = (NSDecimalNumber *)[formatter numberFromString:@"2"];
NSDecimalNumber *n1 = (NSDecimalNumber *)[NSDecimalNumber numberWithInt:65];
NSDecimalNumber *n3 = [n1 decimalNumberByMultiplyingBy:n2];
NSLog(@"%@ * %@ = %@", n1, n2, n3);

Ответы [ 2 ]

7 голосов
/ 05 апреля 2010

Кажется, работает на меня. 

NSDecimalNumber * n1 = [NSDecimalNumber decimalNumberWithString:@"65"];
NSDecimalNumber * n2 = [NSDecimalNumber decimalNumberWithString:@"2"];

NSDecimalNumber * res = [n1 decimalNumberByMultiplyingBy:n2];

NSLog(@"%@ * %@ = %@", n1, n2, res);

Выход: 

2010-04-05 08:40:42.812 x[24301] 65 * 2 = 130
3 голосов
/ 05 апреля 2010

Я нашел ответ: Согласно Как использовать NSDecimalNumber? Я не могу легко конвертировать между NSNumber и NSDecimalNumber. Для преобразования из одного в другое мне нужно сделать: 

NSDecimalNumber *n2 = [NSDecimalNumber decimalNumberWithDecimal:
                              [[formatter numberFromString:@"2"] decimalValue]];

Было бы неплохо, если бы NSNumberFormatter имел decimalNumberFromString: метод.

...