Проблема в том, что это довольно сложная анимация, которая требует, чтобы одна часть элемента управления была инвертирована и сжата, а остальные элементы управления - нет. Так что на это нельзя ответить с помощью простой анимации масштаба или растяжки. Возможно, вы сможете использовать несколько анимаций в VisualBrushes, которые указывают на ваш пользовательский контроль, но усложнять их обмен во время выполнения.
Я бы порекомендовал вам проверить проект Transitionals на CodePlex:
Переходный проект
Transitionals включает в себя множество различных видов анимации, и одна из них может быть достаточно близка для вас. Если нет, вы можете посмотреть, как создаются переходы, и посмотреть, сможете ли вы настроить один для удовлетворения ваших потребностей.
Наконец, самый эффективный способ сделать это с помощью шейдеров. Шейдеры требуют некоторой математики, и написаны на HLSL (не на C #). Если вы заинтересованы в получении дополнительной информации, я настоятельно рекомендую вам ознакомиться со следующей статьей:
Написание пользовательских графических эффектов для WPF