python numpy float64. Преобразование «точных» значений в float64 () дает «мусор» после 16-го значимого di git (десятичные разряды) - PullRequest
0 голосов
/ 27 февраля 2020

Преобразование «точных» значений в float64 () дает «мусор» после 16-го значимого di git (десятичные разряды)

Например, вычисление «1/3»

import mpmath as mpm

import numpy as np

ma = mpm.mpf('1.')

mb = mpm.mpf('3.')

me = ma/mb

'{0:.33e} {1:.33e} {2:.33e}'.format(np.float64(ma),np.float64(mb),np.float64(me))

'1.000000000000000000000000000000000e+00  3.000000000000000000000000000000000e+00  3.333333333333333148296162562473910e-01'

Как установить количество фактически вычисленных десятичных знаков в numpy

Спасибо

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...