Вот что я бы сделал, если бы ни одно из .NET-решений не помогло вам:
Это немного глупо, но это сработает, и ваши пользователи не почувствуют разницу. Загрузите библиотеку Mathjax . Когда ваш пользователь вводит в уравнение, вы можете преобразовать уравнение в LaTex или MathML. Затем вы должны взять LaTex или MathML и сгенерировать файл HTML, который ссылается на Mathjax, и отобразить файл в вашем крошечном окне WebBrowser (действительно как для WinForms, так и для WPF). Для этого не требуется подключение к интернету.
Как я уже сказал, ваши пользователи не будут мудрее.