Вы можете рассмотреть возможность размещения элемента управления WebBrowser в форме Windows. Таким образом, вы можете предоставить пользователю всплывающее окно для аутентификации.
Я бы рекомендовал использовать OAuth напрямую для аутентификации. Вы можете узнать, как использовать OAuth для автоматического входа пользователя в систему. Существует несколько различных подходов, поэтому вам придется выбирать подход, который будет использоваться на основе того, что вы пытаетесь достичь.
Наконец, вы можете рассматривать вашу надстройку как обычное приложение .net. Вы можете использовать любую библиотеку на основе .net в коде. Там нет Excel конкретных вещей.