Я предлагаю вместо этого использовать Scintilla. Я конвертировал одно приложение, которое использовало SynEdit для использования Scintilla. Легко создать лексер в Scintilla, но Scintilla работает по-другому, по сравнению с SynEdit. Я рекомендую Scintilla, поскольку он активно развивается и используется во многих проектах. Стоит взглянуть на это.
Я знаю, что не отвечаю на ваш вопрос, но думаю, что мой опыт конвертации из SynEdit может быть полезен.