Вы можете иметь только один sessionMode для каждого Приложения (Виртуальный каталог).
Вы можете создать 2 отдельных приложения с единой регистрацией, для пользователя это будет выглядеть как 1 приложение.
Это не на 100% те же самые, аутентифицированные пользователи, которые посещают публичные страницы, будут использовать InProc. До вас, если это имеет значение.
С другой стороны, вы уверены, что это стоит затраченных усилий? Вы не можете использовать Session для данных в сценарии с несколькими серверами + InProc (это может зависеть от настроек вашего IP). И хранение (небольшое количество) данных в SqlServer не должно быть большой проблемой.