PARI может быть хорошим выбором, хотя я не знаком с его использованием:
Официальный сайт PARI
PARI - это библиотека C, и если вам нужно независимое программное обеспечение, там есть PARI-GP.
Ниже приведено описание PARI на сайте выше:
PARI / GP - широко используемый компьютер
система алгебры, предназначенная для быстрого
вычисления в теории чисел
(факторизации, алгебраическое число
теория, эллиптические кривые ...), но и
содержит большое количество других
полезные функции для вычисления
математические объекты, такие как
матрицы, полиномы, степенные ряды,
алгебраические числа и т. д., и много
трансцендентные функции. ПАРИ также
доступный как библиотека C, чтобы позволить
более быстрые вычисления.
Надеюсь, это может быть полезно!
P.S. Говорят, что функции Octave можно вызывать из C ++, и это может быть отличной заменой MATLAB.