Расчеты оптического потока сами по себе не помогут вам обнаружить такие вещи, как «вращательное движение». По сути, все, что делает калькулятор оптических потоков, - это просмотр изменений попиксельно, в то время как под поворотом вы понимаете большую совокупность изменений пикселей. Алгоритм должен обнаружить что-то вроде «все пиксели на краю объекта движутся в направлении (против) по часовой стрелке». Это очень сложно сделать, и я не думаю, что в OpenFrameworks или OpenCV есть что-то, что могло бы вам помочь.
Вы пытаетесь обнаружить вращение объекта на изображении или подобные вращению движения на изображении, которые будут влиять на виртуальный объект? Если это первое, я думаю, что есть методы OpenCV для идентификации объектов, а затем отслеживания их, включая такие вещи, как вращение. Я думаю, что исследовать такие вещи, как «отслеживание объекта opencv» и «анализ движения объекта opencv».