Вы не можете "экстернализовать" группу секций <system.serviceModel>
- так как это секция конфигурации группа - но вы определенно можете экстернализовать каждый из битов внутри нее:
<system.serviceModel>
<behaviors configSource="behaviors.config" />
<bindings configSource="bindings.config" />
<extensions configSource="extensions.config" />
<client configSource="client.config" />
<services configSource="services.config" />
</system.serviceModel>
В системе конфигурации .NET любой раздел конфигурации может быть выведен наружу - каждый раздел конфигурации имеет атрибут configSource
(хотя Visual Studio иногда жалуется и заявляет об обратном .....) - но не группы разделов конфигурации.
К сожалению, эти два трудно отличить друг от друга - вам нужно обратиться к библиотеке MSDN или документации, чтобы узнать.
Вам также следует ознакомиться с серией из трех частей Джона Риста, посвященной системе конфигурации .NET, в CodeProject.
Настоятельно рекомендуется, хорошо написано и очень полезно!