Измерить ошибку с плавающей точкой? - PullRequest
1 голос
/ 29 февраля 2012

Если я возьму, например, пи и найду случайное число от 1 до 1000, то разделю пи на это число.Затем умножьте число Пи на это число.

Должно ли это вызвать ошибку с плавающей запятой?

(и что является допустимой ошибкой на процессоре?)

Ответы [ 2 ]

0 голосов
/ 29 февраля 2012

Ваш вопрос очень широкий - слишком широкий, чтобы попытаться ответить в нескольких параграфах о переполнении стека.Вместо этого, попробуйте прочитать эту знаменитую статью под названием «Что должен знать каждый компьютерщик об арифметике с плавающей запятой»:

http://www.math.umd.edu/~jkolesar/mait613/floating_point_math.pdf

0 голосов
/ 29 февраля 2012

Да, это почти наверняка приведет к ошибке (в том смысле, что результат не будет идентичен исходному значению).

Если вы хотите найти ошибку, то что не так (в данном случае) с original - final?

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...