Используйте LAPACK . Он уже установлен во многих системах, и существует множество реализаций, доступных для систем, в которых его нет.
В частности, вы хотите, чтобы процедура была dtrtrs
или strtrs
, в зависимости от того, имеют ли ваши данные двойную или одинарную точность.