Прежде всего, если DLL потерпит крах, JVM прекратит работу.
Это один из недостатков использования JNI. Так что это, как правило, не так просто, как глотать какое-то исключение из DLL.
В вашем случае ошибка намекает на унифицированную память. Вы должны смотреть в сторону от индексации в вашем коде.
Вы должны опубликовать свой код, хотя, чтобы получить дополнительную помощь