Нашел ответ. Вы используете WebApplicationExtension (находится в WixIisExtension) без указания атрибута Extension. Вот сопоставление по шаблону для ASP.NET 2.0:
<iis:WebApplicationExtension CheckPath="no"
Script="yes"
Executable="[FRAMEWORKROOT]v2.0.50727\aspnet_isapi.dll"
Verbs="GET,HEAD,POST"/>