Этот тип аутентификации называется аутентификацией в смешанном режиме (некоторые поиски в Google по этому поводу получат много хитов). У нас есть представление о том, как это работает на сайте, над которым я работаю, но есть некоторые особенности нашей настройки, связанные с нечетными бизнес-требованиями.
Вот статья, которая поможет вам в этом вопросе:
http://www.15seconds.com/Issue/050203.htm
Это большая тема, чтобы дать огромное подробное объяснение того, как вы можете настроить это в одном посте.
Удачи!