Ой, если ваш JNI вызывает сбой JVM, то это будет непросто проверить с помощью junit.Вы не можете, например, подключить обработчик сигнала для SIGSEGV, JVM просто умрет.
Если бы это был я, я немного изменил бы это и создал бы простой класс Java сMain, вызывающий аварийный исходный код, и в моем тесте junit я выполняю новый экземпляр среды выполнения Java, который запускает этот класс-оболочку с помощью Runtime # exec.
Затем можно дождаться завершения результирующего процесса ипроверьте его код возврата - если он не равен нулю, возникла проблема при выполнении.