«-1. # IND» возвращается в 64-битной Windows (C ++) с операцией fmod, когда знаменатель не равен 0 - PullRequest
2 голосов
/ 28 февраля 2012

При выполнении следующей операции: float remainder_fl = fmod (float (a), float (b));

«remainder_fl» устанавливается в «-1. # IND», когда a = 0и b = 300. Это происходит только с 64-разрядной DLL-библиотекой Windows.С отладочной 64-разрядной библиотекой DLL, а также с 32-разрядной версией и отладочной DLL-библиотекой Windows эта проблема вообще не видна.

Если у кого-либо есть какие-либо предложения или указания по поводу того, почему это может происходить, я очень рекомендуюценим это.

Спасибо, Эш

Конфигурация машины 64-битный Windows 2008 Std Server, DLL-библиотека оптимизированного выпуска.

...