Я подозреваю, что ответ относится к «Службе установщика Windows». Я предполагаю, что ваши хуки не будут перехватывать какие-либо взаимодействия со службой, которые, даже если они запускаются в результате настройки FireFox, будут создаваться другим системным процессом. У меня не было большого опыта работы с установщиком Windows, но в документации здесь должно быть больше деталей, чем вы могли бы пожелать, учитывая время, чтобы найти его.
UAC также может вызывать у вас проблемы, но вы должны быть в состоянии исключить это, запустив код перехвата с правами администратора для начала.
Это исследование для универа? В любом случае, удачи, это звучит как интересная проблема.