Например, у меня есть два числа, представленные в base-10 как
n1 = 5.7818 x 10^(-4) = 0.00057818
и
n2 = 5.6743 x 10^(-4) = 0.00056743
Первое число, n1, является результатом вычисления сточность плавания.Второе число, n2, является результатом того же вычисления, но с двойной точностью.
Я пытаюсь выяснить, связана ли разница в значениях с плавающей точностью от двойной точности.То, что я хотел бы сказать, это что-то вроде
n2 - floating point error <= n1 <= n2 + floating point error
или нет.Я читал об этом на веб-сайте Oracle здесь: https://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html,, но до сих пор не был плодотворным.
Я получаю, что моя точность с плавающей точкой равна p = 24, с двойной - p = 53, и что база для обоих - beta = 2, но я не уверен, как использовать это, чтобы показать, что я хочу.