погрешности точности с numpy - PullRequest
0 голосов
/ 10 января 2020

Может кто-нибудь объяснить это:

>>> numpy.array([22.0], dtype=numpy.float64) / (2 ** 11)
array([0.01074219])
>>> 22.0 / (2 ** 11)
0.0107421875
>>> 

Numpy, кажется, приводит к ошибочному результату, возможно, к какой-то ошибке точности.

Как я могу это исправить?

Спасибо,

- Жюльен

1 Ответ

0 голосов
/ 10 января 2020
>>> numpy.set_printoptions(precision=15)
>>> numpy.array([22.0], dtype=numpy.float64) / (2 ** 11)
array([0.0107421875])

исправляет это

...