OpenGL для отображения 3D на экране, я действительно не знаю, каким образом вы хотите использовать его в ядре.
Если вы имели в виду использование вычислительной мощности GPU для некоторых вычислений, ядумаю, что это было бы возможно в некоторых частях ядра, но я сомневаюсь, что это стоит боли.