OpenGL (для которого JOGL является просто оболочкой) имеет концепцию плоскости отсечения. Вы можете установить несколько плоскостей клипов в своих сценах (не менее шести, обычно больше), и все, что находится за их пределами, не будет прорисовано. Эти плоскости указаны в 3D, а расчет клипа - в 3D.
Ищите GL.glClipPlane (...)
Если вы ищете обрезку в 2D в пространстве экрана, ищите GL.glViewport (...).