Hy, у меня была такая же проблема при интеграции RXTXcomm в Netbeans под Ubuntu 11.10.
Я предполагаю, что вы не копируете файлы в нужном месте, по крайней мере, это была моя проблема.
Под Ubuntu java устанавливается под usr / lib / jvm. НО здесь у меня было много машин (например, java-7-openjdk-i386 , java-7-common , java-6-openjdk ... ). В Netbeans я проверяю, какой путь JDK включен в проект, это был java-7-openjdk-i386 . поэтому я взял rxtxSerial.so (под windows это rxtxSerial.dll) и скопировал его в java-7-openjdk-i386 / jre / bin , и он работал как шарм.
Надеюсь, это поможет.