Существует несколько привязок Java к CUDA и OpenCL ( jcuda.org , jocl.org , что-то еще также называется jocl ), но все это просто способы получить код CUDA или OpenCL, работающий на GPU через Java, и требовать от вас написания кода специально для этого. Я не думаю, что есть простой способ запустить произвольную многопоточную Java-программу на GPU с небольшими изменениями в коде.
Что делает ваша Java-программа, которую вы хотите запустить на GPU?
Вы должны принять во внимание, что архитектура GPU сильно отличается от архитектуры CPU; Ядра на GPU не являются ядрами общего назначения, которые могут делать что-либо и работать независимо, как в процессоре Intel x86. Чтобы действительно использовать преимущества конкретной SIMD-архитектуры графического процессора, ваш код должен быть написан с учетом этой архитектуры.