Уменьшить влияние ошибки числа с плавающей запятой (округления) - PullRequest
0 голосов
/ 20 июня 2011

Мы реализуем некоторые геометрические алгоритмы, но обнаружили, что влияние ошибки вычисления числа с плавающей запятой велико.Есть ли какие-либо ориентиры для уменьшения такого рода эффектов?

Алгоритмы содержат много частей и являются очень сложными.Одним из примеров является вычисление пересечений между линией и сплайном (сериалы кривой Безье).Когда положение линии близко к конечной точке Безье, результат нестабилен.

Спасибо

1 Ответ

3 голосов
/ 20 июня 2011
  • Используйте алгоритмы, которые менее чувствительны к ошибкам с плавающей запятой (см. Числовая стабильность )
  • Используйте более широкие типы (например, double вместо float)
...