Мне известны две библиотеки, которые позволяют использовать OpenGl с Java.
LWJGL (легковесная библиотека Java-игр), которая, imo, является лучшей из-за своей простоты и сходства с использованием opengl с c / c ++.
JOGL Если вы хотите смешать компоненты Swing с OpenGL, это может быть лучшим выбором, я никогда не использовал его, но несколько лет назад он был довольно глючным, я не знаю, если его созрели с тех пор.
Что касается рисования деревьев, есть много способов сделать это, как сказал другой автор, возможно, вы захотите быть более конкретным.
edit: Думаю, я немного неправильно понял вопрос, да ладно: / Вы можете загрузить в 3d модель дерева и отобразить это.