XFunction, по-видимому, не дает возможности вернуть собственный указатель. Так как он не имеет открытых источников, и их поддельный продукт - обфускатор Java, я думаю, вы застряли и не сможете сделать com.excelsior.xFunction.Pointer => com.sun.jna.Pointer.
Итак, как говорится (http://www.excelsior -usa.com / xfunction.html ):
Мы [...] рекомендуем вам сначала взглянуть на JNA
Думаю, вам лучше перекодировать эту часть вашего приложения в полную JNA, чтобы делать то, что вы хотите ... или придерживаться XFunction
В любом случае, если вам удастся найти способ получить исходный указатель XFunction, просто приведите его к Java long
и передайте его new com.sun.jna.Pointer(long)
JNA, а затем просто выполните
com.sun.jna.Pointer.getIntArr(offset,arrayLength)
для извлечения массива в чистом Java