Обновление: извините, только что увидел, что ссылка ниже, и, следовательно, может быть вся информация, относится к IIS 6.0. Я не знаю, применимо ли это к вашей среде.
Я не верю, что вы можете настроить какой-либо параметр GC для каждого домена приложений, что, по сути, и происходит, когда вы устанавливаете его только в файле web.config, то есть для каждого приложения.
Вам необходимо установить это в файле aspnet.config. Файл Aspnet.config находится в том же каталоге, что и файл Aspnet_isapi.dll (проверьте this для получения дополнительной информации).
Редактировать: Чтобы выяснить, используется ли ГХ, вы можете использовать WinDBG / SOS и команду eeversion :
0:010> !eeversion
2.0.50727.3082 retail
Workstation mode
SOS Version: 2.0.50727.3053 retail build