Вы зарегистрировали .NET 4 в IIS?Вам нужно вызвать aspnet_regiis.exe из каталога 4.0?
Вы уверены, что приложение использует правильный пул приложений?Установлен ли пул на .NET 4?Он интегрирован?
Как выглядит ваш web.config?Содержит ли узел компиляции targetFramework="4.0"
?Вы ссылаетесь на версии 4.0 нужных вам сборок?
К сожалению, есть масса мест, куда можно заглянуть.