Скорее всего AY16_Loop_M16()
в libmkl_mc.so
было написано на ассемблере и не имеет правильных дескрипторов размотки, которые необходимы для правильной размотки GDB стека на x86_64 (при отсутствии указателей на фреймы).
Лучше всего связаться с Intel и попросить их добавить правильные дескрипторы раскрутки.
Вы можете получить лучшие результаты, если установите точку останова в начале AY16_Loop_M16
- если она вызывается из C(или любой другой не ассемблерный язык), есть вероятность, что вы получите разумную трассировку стека при входе.