Небольшие числа округляются в питоне - PullRequest
0 голосов
/ 22 марта 2019

Я хочу сделать расчет по шкале наносекунд.

>>> N=10
>>> A=10
>>> t = np.linspace(0,A*1e-9,N)
array([0.        , 0.        , 0.        , 0.        , 0.        ,
   0.00000001, 0.00000001, 0.00000001, 0.00000001, 0.00000001])

Но массив округляется, как мне сохранить желаемую точность

A*1e-9/N

1 Ответ

1 голос
/ 22 марта 2019

При запуске вашего кода на моей машине я получаю:

[0.00000000e+00 1.11111111e-09 2.22222222e-09 3.33333333e-09
 4.44444444e-09 5.55555556e-09 6.66666667e-09 7.77777778e-09
 8.88888889e-09 1.00000000e-08]

Проблема с вашими параметрами печати, кажется, не использует научную запись. См. эту страницу в руководстве о том, как это изменить.

Короче говоря, с вашим кодом все в порядке, ваша печать пустых массивов, вероятно, не оптимальна для вашего варианта использования.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...