Я нашел ответ на MSDN:
<configuration>
<connectionStrings configSource="connections.config"/>
</configuration>
С файлом connections.config
, содержащим
<connectionStrings>
<add name="name" connectionString="conn_string" providerName="System.Data.SqlClient" />
<add name="name2" connectionString="conn_string2" providerName="System.Data.SqlClient" />
</connectionStrings>