У меня есть константа long double
, которую я устанавливаю как const или не-const. Это длиннее (40 цифр), чем точность long double
на моей тестовой рабочей станции (19 цифр).
Когда я его распечатываю, он больше не отображается с точностью до 19 цифр, а с 16.
Вот код, который я тестирую:
#include <iostream>
#include <iomanip>
#include <limits>
#include <cstdio>
int main ()
{
const long double constLog2 = 0.6931471805599453094172321214581765680755;
long double log2 = 0.6931471805599453094172321214581765680755;
std::cout << std::numeric_limits<long double>::digits10 + 1 << std::endl;
std::cout << "const via cout: " << std::setprecision(19) << constLog2 << std::endl;
std::cout << "non-const via cout: " << std::setprecision(19) << log2 << std::endl;
std::fprintf(stdout, "const via printf: %.19Lf\n", constLog2);
std::fprintf(stdout, "non-const via printf: %.19Lf\n", log2);
return 0;
}
Компиляция:
$ g++ -Wall precisionTest.cpp
Выход:
$ ./a.out
19
const via cout: 0.6931471805599452862
non-const via cout: 0.6931471805599452862
const via printf: 0.6931471805599452862
non-const via printf: 0.6931471805599452862
Я бы ожидал 0.6931471805599453094
, но вместо этого получил бы 0.6931471805599452862
.
Есть ли причина, по которой 19 цифр точности обрезаются до 16 цифр?
Вот мое окружение:
$ gcc --version
i686-apple-darwin9-g++-4.0.1 (GCC) 4.0.1 (Apple Inc. build 5490)
Я вижу ту же проблему с другими версиями gcc, например ::1010 *
$ gcc --version
g++ (GCC) 3.4.6 20060404 (Red Hat 3.4.6-10)
Я могу заглянуть в NTL или другие библиотеки, но мне любопытно, что вызывает это. Спасибо за ваше понимание.