Отвечая на этот старый вопрос с помощью новых библиотек , которые были реализованы в настоящее время (по состоянию на 2016 г.), потому что в технологии GPU с Java есть много новых улучшений
Как предлагается в нескольких других ответах, CUDA является альтернативой. Но Java имеет поддержку CUDA сейчас.
Библиотека IBM CUDA4J: предоставляет Java API для управления и доступа к графическим процессорам, библиотекам, ядрам и памяти. Используя эти новые API, можно писать Java-программы, которые управляют характеристиками устройства GPU и переносят работу на GPU с удобством модели памяти Java, исключений и автоматического управления ресурсами.
Jcuda: привязки Java для NVIDIA CUDA и связанных библиотек. С JCuda можно взаимодействовать со средой выполнения CUDA и API драйвера из программ Java.
Aparapi: позволяет разработчикам Java использовать преимущества вычислительной мощности устройств GPU и APU, выполняя фрагменты параллельного кода данных на GPU, а не ограничиваясь локальным процессором.
Некоторые Java OpenCL привязка библиотеки
https://github.com/ochafik/JavaCL: Java-привязки для OpenCL: объектно-ориентированная библиотека OpenCL, основанная на автоматически генерируемых низкоуровневых привязках
http://jogamp.org/jocl/www/: Java-привязки для OpenCL: объектно-ориентированная библиотека OpenCL, основанная на автоматически генерируемых низкоуровневых привязках
http://www.lwjgl.org/: Java-привязки для OpenCL: автоматически генерируемые низкоуровневые привязки и объектно-ориентированные классы удобства
http://jocl.org/: привязки Java для OpenCL: низкоуровневые привязки, которые являются отображением 1: 1 исходного OpenCL API
Все перечисленные выше библиотеки помогут реализовать Gaussian Blur быстрее, чем любая реализация в Java на CPU.