Я недавно использовал MPFR - вычисления с плавающей точкой с множественной точностью GNU с правильной библиотекой округления. По своей структуре API похож на MAPM, который довольно просто использовать в моем опыте.
Однако, если вы используете только целые числа, вы, вероятно, получите лучшую производительность из библиотеки с множественной точностью, которая имеет отдельные целочисленные типы (например, MAPM), поскольку MPFR выделен для числа с плавающей запятой.