Для сценария приложения, который вы описываете, я ожидаю, что WPF превзойдет WinForms для работы с 3D на полнофункциональном графическом процессоре с большим отрывом.
Разница между типами приложений заключается не только в рендеринге трехмерного векторного конвейера. Внутренняя архитектура WPF радикально отличается от WinForms, специально разработанной для преодоления недостатков, извлеченных из многолетнего опыта работы с приложениями Windows GDI и WinForms.
(WinForms - это относительно тонкая оболочка для модели Windows GDI и User, которая была изначально создана в конце 1980-х годов. Модель управления пользователями Windows развивалась в течение последних 25 лет, но основные архитектурные шаблоны в основном не изменились.)
Например, WPF всегда отделяет рендеринг пользовательского интерфейса от логики приложения. Когда окно WPF начинает рисовать что-то, фактический рендеринг происходит в фоновом потоке. Обновленные изображения переворачиваются на дисплей во время интервала восстановления видео, поэтому на экране не появляются частичные блики или «разрывающиеся» артефакты.
WinForms не делает ничего из этого. Если вы выполняете рендеринг на поверхности DirectX или OpenGL в приложении WinForms, вы должны выполнить перелистывание страницы видео и убедиться, что это происходит в нужное время, чтобы избежать появления разрывов экрана.
Стандартные элементы управления Wpf поддерживают GPU и могут быть выполнены в индивидуальном стиле с блеском и прозрачностью, а также ускорением всех графических процессоров. Элементы управления WinForms не получают существенных преимуществ от функций графического процессора, поскольку единственное, что WinForms (элементы управления Windows) использует для рендеринга, это 2D-битблит и заливка прямоугольника. Свечение, прозрачность, анимация возможны с WinForms, но вы должны сделать все работу, чтобы их реализовать.
В WPF гладкость пользовательского интерфейса - это в основном вопрос проектирования и стилизации, чтобы WPF сделал это за вас. В WinForms вам нужно самим подталкивать пиксели.