Вы должны скомпилировать его с помощью:
g++ -I/usr/lib/jvm/java-6-openjdk/include -L/usr/local/lib -Wl,-rpath,/usr/local/lib -fPIC -lboost_system -shared -o libagent.so agent.cpp
Это заставляет искать библиотеку надстройки в / usr / local / lib во время выполнения, опция -L заставляет ее искать только в / usr / local /lib во время компиляции.