Я думаю, что ваш формат может быть неправильным. Какой выход вы ожидаете и что получаете?
Если я правильно угадываю, вы можете попробовать это:
label.text = [NSString stringWithFormat:@"%5.2f", answer];
, где 5 означает общее количество цифр (с точки зрения заполнения для выравнивания), а 2 означает 2 десятичных знака.
РЕДАКТИРОВАТЬ: избежать утечки памяти, как упоминалось в комментарии Донким!