Гибридный протокол OpenID + OAuth - это просто OpenID с очень простым расширением сверху. Получите приличную библиотеку PHP OpenID и найдите / внедрите очень простое расширение OAuth, и все готово.
Что ж, вам также понадобится библиотека для выполнения подписи OAuth с помощью токена доступа.