Я думаю, что вы имеете в виду «реализацию регулярных выражений», а не алгоритм (в обычном смысле).
Вы можете проверить с известными выражениями, которые, как известно, вызывают проблемы с тем или иным подходом.Также ищите функции, которые легче реализовать в одном или другом (это ненадежный подход - разработчики движков regex находят новые способы реализации ранее сложных вещей).
Обычно ответом является чтениедокументацию или посмотрите в известной справке ( «Освоение регулярных выражений» документирует многие популярные случаи).Наконец, почему бы не спросить авторов?