Oauth лучше всего подходит для сценариев, в которых участвует третье лицо (провайдер).Например: войдите с помощью Facebook.
Если пользователь должен войти в вашу службу для доступа к API, вы можете использовать обычную аутентификацию.(Приложите учетные данные к заголовку Http через Https)
Наконец: Да, вам нужен Https.И самозаверяющий сертификат может работать, если вы управляете клиентом и сервером.Например, для Android вы можете импортировать свои сертификаты):
http://developer.android.com/training/articles/security-ssl.html (раздел Самозаверяющий сертификат сервера)
Однако, если вы создаете веб-клиент, пользователь получитпредупреждение для ненадежного сайта.