Полагаю, ваш лучший вариант - протестировать плагин в отдельном процессе Firefox, но вы, вероятно, делаете это в любом случае.
Для реального профилирования вы должны использовать Firebug. Я не уверен в этом, но я думаю, что можно запускать приложения XUL внутри Firefox (без интеграции его в качестве плагина). Если это не вариант, вы можете выделить код, который, как вы подозреваете, будет медленным, на веб-страницу и профилировать его с помощью Firebug . Это, конечно, будет работать только для вещей, которые не взаимодействуют с ядром Mozilla.