Страница nvenc SDK [1] на веб-сайте NVidia предполагает, что это возможно, поскольку текущее графическое изображение заголовка относится к потоковой игре. (Даже если это игра Direct3D, с той же микросхемой внизу.) Быстрый поиск «общего буфера обмена nvenc с OpenGL» обнаружил несколько людей, которые, очевидно, объединили их.
Работает только на Linux и MS Windows, так что не радуйтесь, если у вас Mac.
Надеюсь, это поможет.