Если я хочу получить доступ только к библиотеке документов SharePoint Foundation из приложения .Net (не веб-приложения) с помощью API (не веб-служб), то возможно ли установить SharePoint Foundation без IIS?
Боюсь, что IIS является требованием, SharePoint даже не установится без него.
Нет. SharePoint - это в основном IIS / ASP.Net HTTP модуль и обработчик запросов.