MPIR , форк проекта GMP, имеет привязки C #.Лично я обнаружил, что с ними легче справляться при возникновении проблем, так что я больше не беспокоюсь о GMP (в первую очередь из-за его склонности к насильственному выходу при нехватке памяти).
Есть и другиеперечислено здесь , но я не имею прямого опыта работы с ними, поэтому не могу комментировать их полезность.