Да, это возможно.Мы делаем это наоборот (проверка подлинности с помощью форм на внешнем сайте, проверка подлинности Windows на внутреннем сайте.
Хитрость для выполнения этой работы находится на главном сайте, вам нужно будет включить ваш основной system.webКонфигурация в не наследуемом теге местоположения.
Например:
<location inheritInChildApplications="false">
<system.web>
<authentication mode="Windows"/>
</system.web>
</location>
, затем, на вашем дочернем сайте, вы добавляете web.config, который определяет параметры этого сайта:
<?xml version="1.0"?>
<configuration>
<system.web>
<authentication mode="Forms"/>
</system.web>
</configuration>