Боюсь, с помощью обычного мультимедийного плеера wpf этого сделать нельзя.
Медиаплеер игнорирует прозрачные области, даже с видеоформатами, которые его принимают. Из памяти, я не думаю, что файлы AVI поддерживают прозрачные области. MOV файлы делают.
Сказав это, и хотя это может быть очень сложной задачей, возможно, можно улучшить медиаплеер WPFMediaKit, чтобы он делал то, что вы хотите.
http://wpfmediakit.codeplex.com/
J Моррилл, автор wpfmediakit, может сообщить вам, возможно это или нет.
Могу добавить, что однажды я обошел эту проблему в проекте, используя последовательность файлов .png, которые воспроизводили короткий 10-секундный фильм. Конечно, это не идеальное решение, но оно выбило меня из колеи