Похоже, вы перепутали правильный порядок своих заявлений о библиотеках - из немногих сведений, которые я получил, я бы ожидал:
LIBS += -L/home/username/FCam -lFCam -lpthread -ljpeg
Почему в этом порядке?
Потому что сначала вы должны определить, где находятся библиотеки, с помощью -L [MY_LIB_DIR].
Затем вы должны добавить свои библиотеки с помощью -lMyLib, где ваш библиотечный файл ДОЛЖЕН называться libMyLib.a или libMyLib.so.
Наконец, вы добавляете системные библиотеки, потому что вполне вероятно, что ваше приложение или ваши библиотеки имеют зависимости от системных библиотек lik pthread и jpeg.
Просто попробуйте новый заказ, и я уверен, что вы его получите;)
чао,
Chris