Добавьте свой пароль в секретную переменную Gitlab, например - DEPLOY_SSH_PASSWORD (где-то в настройках проекта) и используйте его:
sshpass -p $DEPLOY_SSH_PASSWORD ssh user@ip
Но я предлагаю вам использовать закрытые ключи, это более безопасно.
Добавьте свой закрытый ключ в секретную переменную Gitlab, например - DEPLOY_SSH_KEY, скопируйте закрытый ключ во временный файл на бегуне:
- echo "$DEPLOY_SSH_KEY" > ~/.ssh/id_rsa
И просто используйте это:
- ssh -i ~/.ssh/id_rsa user@ip