Ваша команда архива выглядит нормально, вы можете попробовать следующее.
1) Получить объектные файлы в архиве / статической библиотеке
ar -t libtestlib.a
2) Для каждого объектного файла (скажем, foo.o) из шага 1
file foo.o
Это скажет вам формат объектного файла. Если объектный файл был скомпилирован для другой платформы, это может привести к ошибке при построении индекса для архива.
Чтобы исправить это, вам нужно перекомпилировать эти файлы.
3) Для каждого объектного файла из шага 1 выполните
nm foo.o
В этом списке перечислены символы, экспортированные из файла.