Невозможно увеличить внутренний предел AWK для факториала - PullRequest
1 голос
/ 25 июня 2009

Я запускаю код AWK и получаю

The factorial of 200 is inf

Это говорит о том, что AWK не использует тот же стандартный модуль IEEE, что и Python. Похоже, что предел AWK составляет 170!

Как вы можете заставить AWK понимать такие большие целые числа как Python?

1 Ответ

3 голосов
/ 25 июня 2009

С здесь :

Внутреннее представление всех чисел, включая целые числа, использует числа с плавающей запятой двойной точности. В большинстве современных систем они представлены в стандартном формате IEEE 754.

Python может иметь целые числа любой длины , в зависимости от доступной памяти. Это не зависит от IEEE 754. Кстати, этот стандарт дает предел поплавка двойной точности около 10 ^ (+/- 308). Значение log10 (factorial (171)) составляет> 309. См. Также Двойная точность и Что должен знать каждый ученый об арифметике с плавающей точкой .

...