Много инструментов для этого, например FBGrab и fbdump ; Посмотрите на источники для этих двух, было бы довольно просто расширить или написать свой собственный, который захватывает видео, а не просто снимки.
Однако я бы порекомендовал, чтобы запись программы в кадровый буфер также была единственной записью, чтобы синхронизировать захват кадров между записью их (а не частично через запись, или пропуск, или ...)