DirectShow с настраиваемым Allocator Presenter в vmr9, работает в Windows 7. Возможно, в вашем коде что-то не работает.
Попробуйте очистить рамку, прежде чем рисовать другим цветом, например красным. Если вы видите красный, это означает, что вы не правильно рисуете рамку. Если вы этого не сделаете, значит, вы что-то сделали неправильно.
Я бы посоветовал вам проверить ваш механизм блокировки, потому что ваш пользовательский AP доступен из 3-5 потоков одновременно.