ANTLR может показаться сложным и тяжелым, но вам не нужно использовать все функции, которые он включает; это красиво наслоено. Я большой поклонник его использования для разработки парсеров. Для начала вы можете использовать превосходные ANTLRWorks для визуализации и тестирования создаваемых вами грамматик. Очень приятно иметь возможность наблюдать, как он собирает токены, строит деревья разбора и проходит весь процесс.
Для вашего проекта в текстовом редакторе я бы выбрал грамматики фильтра , которые могли бы удовлетворить ваши потребности. Для грамматик фильтра вам не нужно указывать всю лексическую структуру вашего языка, только те части, которые вас интересуют (т. Е. Нужно выделять, выделять цветом или индексировать), и вы всегда можете добавить больше, пока не справитесь с целым языком.