Анонимная аутентификация может, и в некоторых случаях должна быть включена для службы, но не для сайта.
Поэтому убедитесь, что для «корневой» аутентификации вашего сайта включена только аутентификация Windows. Затем разверните свой сайт, выберите папку «service» и убедитесь, что в вашей службе включена Windows и анонимная аутентификация.
У меня была идентичная среда, в которой это работало, единственная разница в этих средах заключалась в аутентификации службы. Проблема в моем случае была вызвана не выбранными провайдерами (Ntlm или Negotiate), а настройками аутентификации для сайта и сервиса.
По крайней мере, у меня было идентичное сообщение об ошибке с базовым веб-сайтом и сервисом MSSQL Master Data Services, и это было решением. Я получил ошибку при запуске только службы, но сайт работал почти нормально, MDS Explorer не работал, потому что настройки проверки подлинности службы сначала были неверными. Причиной этой неправильной конфигурации может быть ошибка в MDS Configuration Manager при создании нового сайта MDS?
Таким образом, в моем случае проблему нельзя было решить путем какого-либо специального редактирования файлов web.config или ApplicationHost.config, я не редактировал файлы конфигурации. Просто выбрал правильные настройки аутентификации для веб-сайта и его службы в диспетчере IIS. Я не уверен, что это здесь, но, может быть, стоит попробовать?