То, что сказал Силки, кроме перефразированного.
В ASP .NET для конфигурационных файлов обычно используется стиль наследования. У вас есть файл machine.config в папке .net framework, в котором есть основные настройки для всех приложений на компьютере. Все, что вы укажете в корневом web.config с такими же тегами, переопределит содержимое в machine.config.
Любой файл web.config в подпапке может переопределять или добавлять дополнительные параметры в этой подпапке и ее дочерних элементах.
Мне всегда весело, когда один из моих новых программистов вставляет обработчик http в корневую папку, а затем все приложения в виртуальных каталогах под ним взрываются, потому что у них нет DLL (они должны иметь поместите оператор обработчика http только в нужное приложение, а не в корень). :)