Я нашел проблему:
Я использовал старую версию org.wso2.carbon.identity.inbound.auth.oauth2
Я обновил pom.xml до
<dependency>
<groupId>org.wso2.carbon.identity.inbound.auth.oauth2</groupId>
<artifactId>org.wso2.carbon.identity.oauth</artifactId>
<version>6.0.172</version>
<scope>provided</scope>
</dependency>
из https://mvnrepository.com и пришлось обновить код, чтобы использовать версию com.nimbusds.jwt, используемую wso2is.
И, наконец, в настройках поставщика услуг вы должны выбрать токена.